1
00:00:02,000 --> 00:00:07,000
Изтеглено от
YTS.MX

2
00:00:08,000 --> 00:00:13,000
Официален сайт за филми YIFY:
YTS.MX

3
00:00:25,020 --> 00:00:28,000
- Интелигентността е
способността за разбиране.

4
00:00:28,000 --> 00:00:30,220
Предадохме това, което знаем, на машините.

5
00:00:30,220 --> 00:00:31,760
- Възходът на
изкуствен интелект

6
00:00:31,760 --> 00:00:34,210
се случва бързо, но някои
страх от новата технология

7
00:00:34,210 --> 00:00:36,960
може да има повече проблеми от очакваното.

8
00:00:36,960 --> 00:00:38,510
- Няма да го контролираме.

9
00:01:37,720 --> 00:01:40,290
- Изкуствено
интелигентните алгоритми са тук,

10
00:01:40,290 --> 00:01:41,930
но това е само началото.

11
00:01:51,380 --> 00:01:54,850
- В ерата на AI,
данни е новото масло.

12
00:01:57,180 --> 00:01:59,230
- Днес, Amazon,
Google и Facebook

13
00:01:59,230 --> 00:02:01,440
са по-богати и повече
мощен от всяка друга компания

14
00:02:01,440 --> 00:02:03,840
които някога са съществували
през цялата човешка история.

15
00:02:05,000 --> 00:02:08,690
- Шепа хора, работещи в
шепа технологични компании

16
00:02:08,690 --> 00:02:11,360
управлявайте какъв милиард
хората мислят днес.

17
00:02:12,710 --> 00:02:16,840
- Тази технология се променя:
Какво означава да си човек?

18
00:03:11,870 --> 00:03:16,340
- Изкуственият интелект е просто
небиологичен интелект.

19
00:03:17,310 --> 00:03:20,910
А самата интелигентност е просто
способност за постигане на цели.

20
00:03:23,440 --> 00:03:26,030
Убеден съм, че AI
в крайна сметка ще бъде едно от двете

21
00:03:26,030 --> 00:03:29,780
най-доброто нещо, което някога се е случвало на човечеството,
или най-лошото нещо, което някога ще се случи.

22
00:03:31,240 --> 00:03:34,930
Можем да го използваме, за да решим всички
на днешния и утрешния

23
00:03:34,930 --> 00:03:40,620
най-големите проблеми; лекува болести,
справяне с изменението на климата,

24
00:03:40,780 --> 00:03:42,840
извадете всички от бедността.

25
00:03:44,380 --> 00:03:47,460
Но бихме могли да използваме точно
същата технология

26
00:03:47,460 --> 00:03:51,780
за създаване на брутален глобален
диктатура с безпрецедентен

27
00:03:51,780 --> 00:03:54,600
наблюдение, неравенство и страдание.

28
00:03:56,230 --> 00:03:59,260
Ето защо това е най-важното
разговор на нашето време.

29
00:04:04,380 --> 00:04:07,590
- Изкуственият интелект е навсякъде

30
00:04:08,450 --> 00:04:11,500
защото сега имаме мислещи машини.

31
00:04:12,420 --> 00:04:15,840
Ако влезете в социалните медии или онлайн,

32
00:04:15,840 --> 00:04:20,290
има двигател с изкуствен интелект
който решава какво да препоръча.

33
00:04:21,290 --> 00:04:25,400
Ако влезете във Facebook и сте просто
превъртане през публикациите на вашите приятели,-

34
00:04:25,400 --> 00:04:29,100
има AI двигател, който подбира
кое първо да ти покажа

35
00:04:29,100 --> 00:04:30,840
- и кой да погребе.

36
00:04:30,840 --> 00:04:34,190
Ако се опитате да получите застраховка,
има AI двигател

37
00:04:34,190 --> 00:04:36,270
опитвайки се да разберете колко рискувате.

38
00:04:37,170 --> 00:04:40,710
И ако кандидатствате за работа,
напълно възможно е

39
00:04:40,710 --> 00:04:43,430
че AI машина разглежда автобиографията.

40
00:04:51,350 --> 00:04:53,500
- Ние сме направени от данни.

41
00:04:54,240 --> 00:04:59,520
Всеки от нас е направен от данни
-по отношение на това как се държим,

42
00:04:59,770 --> 00:05:03,000
как говорим, как обичаме,
което правим всеки ден.

43
00:05:05,410 --> 00:05:09,120
И така, компютърните учени са
развиване на задълбочено обучение

44
00:05:09,120 --> 00:05:14,120
алгоритми, които могат да се учат
за идентифициране, класифициране,

45
00:05:14,570 --> 00:05:18,680
и предвиждайте модели вътре
огромни количества данни.

46
00:05:31,390 --> 00:05:35,190
Изправени сме пред форма на
прецизно наблюдение,

47
00:05:35,190 --> 00:05:38,750
можете да го наречете алгоритмично наблюдение,

48
00:05:38,750 --> 00:05:41,810
и това означава, че вие
не може да остане неразпознат.

49
00:05:43,120 --> 00:05:46,110
Винаги си под
часовникът на алгоритмите.

50
00:05:51,070 --> 00:05:54,380
- Почти всички AI
развитие на планетата днес

51
00:05:54,380 --> 00:05:57,050
се извършва от шепа
големи технологични компании

52
00:05:57,050 --> 00:05:58,770
или от няколко големи правителства.

53
00:06:01,930 --> 00:06:06,170
Ако погледнем какво е AI
най-вече се разработва за,

54
00:06:06,170 --> 00:06:11,170
Бих казал, че е убийствено,
шпиониране и промиване на мозъци.

55
00:06:11,570 --> 00:06:13,730
Така че, искам да кажа, че имаме военен AI,

56
00:06:13,730 --> 00:06:16,850
имаме цяло наблюдение
изграждащ се апарат

57
00:06:16,850 --> 00:06:19,060
използване на AI от големи правителства,

58
00:06:19,060 --> 00:06:21,730
и имаме реклама
индустрия, която е ориентирана

59
00:06:21,730 --> 00:06:25,870
към разпознаване на какви реклами
да се опита да продаде на някого.

60
00:06:29,080 --> 00:06:32,090
- Ние, хората, се опомнихме
разклонение на пътя сега.

61
00:06:33,530 --> 00:06:36,670
AI, с който разполагаме днес, е много ограничен.

62
00:06:37,820 --> 00:06:40,550
Свещеният граал на изследванията на ИИ
още от самото начало

63
00:06:40,550 --> 00:06:43,300
е да направим AI, който може да направи
всичко по-добро от нас,

64
00:06:44,660 --> 00:06:46,280
и ние основно сме изградили Бог.

65
00:06:47,640 --> 00:06:49,930
Ще направи революция
живота, какъвто го познаваме.

66
00:06:53,040 --> 00:06:55,760
Това е невероятно важно
да направя крачка назад

67
00:06:55,760 --> 00:06:57,660
и помислете внимателно за това.

68
00:06:59,380 --> 00:07:01,510
Какво общество искаме?

69
00:07:04,760 --> 00:07:07,430
- И така, ние сме в това
историческа трансформация.

70
00:07:08,890 --> 00:07:11,260
Все едно отглеждаме това ново създание.

71
00:07:11,260 --> 00:07:14,230
Имаме нещо като ново потомство.

72
00:07:16,120 --> 00:07:19,630
Но точно като действителното потомство,

73
00:07:19,630 --> 00:07:22,990
не можете да контролирате
всичко, което ще направи.

74
00:07:57,000 --> 00:08:00,300
Ние живеем в
този привилегирован момент, в който,

75
00:08:00,300 --> 00:08:05,270
за първи път ние
ще видите вероятно този AI

76
00:08:05,270 --> 00:08:08,860
наистина ще се надпреварва
хора в много, много,

77
00:08:08,860 --> 00:08:10,460
ако не всички, важни полета.

78
00:08:14,300 --> 00:08:16,450
- Всичко ще се промени.

79
00:08:16,450 --> 00:08:19,520
Появява се нова форма на живот.

80
00:08:45,000 --> 00:08:50,900
Когато бях момче, си мислех,
как мога да увелича максимално въздействието си?

81
00:08:52,050 --> 00:08:56,270
И тогава стана ясно, че
Трябва да построя нещо

82
00:08:56,270 --> 00:09:00,050
който се учи да става по-умен от себе си,

83
00:09:00,050 --> 00:09:01,680
така че да мога да се пенсионирам,

84
00:09:01,680 --> 00:09:04,480
и по-умното нещо
може допълнително да се самоусъвършенства

85
00:09:04,480 --> 00:09:06,950
и решаване на всички проблеми
че не мога да реша.

86
00:09:11,180 --> 00:09:14,520
Умножавайки това мъничко
малко креативност

87
00:09:14,520 --> 00:09:16,370
че имам в безкрая,

88
00:09:18,270 --> 00:09:20,780
и това е, което е било
кара ме от тогава.

89
00:09:39,220 --> 00:09:40,680
Как се опитвам да изградя

90
00:09:40,680 --> 00:09:43,320
изкуствен интелект с общо предназначение?

91
00:09:45,540 --> 00:09:49,690
Ако искаш да си интелигентен,
трябва да разпознаеш речта,

92
00:09:49,690 --> 00:09:54,550
видео и ръкопис, и
лица и всякакви неща,

93
00:09:54,550 --> 00:09:57,550
и там постигнахме голям напредък.

94
00:09:59,290 --> 00:10:02,010
Вижте, LSTM, невронни мрежи,

95
00:10:02,010 --> 00:10:05,890
които разработихме в нашите лаборатории
в Мюнхен и в Швейцария,

96
00:10:05,890 --> 00:10:10,460
и сега се използва за реч
разпознаване и превод,

97
00:10:10,460 --> 00:10:12,640
и видео разпознаване.

98
00:10:12,640 --> 00:10:16,660
Сега те са във всички
смартфон, почти един милиард

99
00:10:16,660 --> 00:10:20,660
iPhone и повече
два милиарда телефона с Android.

100
00:10:21,990 --> 00:10:26,990
И така, ние генерираме всичко
видове полезни странични продукти

101
00:10:27,490 --> 00:10:29,040
по пътя към общата цел.

102
00:10:40,000 --> 00:10:44,990
Основната цел, някои изкуствени
Общо разузнаване,

103
00:10:44,990 --> 00:10:51,400
AGI, който може да се научи да се подобрява
самият алгоритъм на обучение.

104
00:10:52,960 --> 00:10:56,940
Така че по принцип може да се научи
да подобри начина, по който учи

105
00:10:56,940 --> 00:11:00,940
и може също рекурсивно
подобри начина, по който учи,

106
00:11:00,940 --> 00:11:04,460
начина, по който се учи без
всякакви ограничения с изключение на

107
00:11:04,460 --> 00:11:07,970
основният фундамент
ограничения на изчислимостта.

108
00:11:14,590 --> 00:11:17,880
Един от любимите ми
роботи е този тук.

109
00:11:17,880 --> 00:11:21,380
Използваме този робот за нашите
изследвания на изкуственото любопитство.

110
00:11:22,640 --> 00:11:27,620
Където се опитваме да преподаваме
този робот да се самообучава.

111
00:11:32,870 --> 00:11:33,960
Какво прави едно бебе?

112
00:11:33,960 --> 00:11:37,820
Едно бебе любопитно изследва своя свят.

113
00:11:39,970 --> 00:11:42,210
Така научава как работи гравитацията

114
00:11:42,210 --> 00:11:45,130
и как определени неща се събарят и т.н.

115
00:11:46,700 --> 00:11:49,980
И като се научи да пита
въпроси за света,

116
00:11:49,980 --> 00:11:52,640
и докато се учи
отговори на тези въпроси,

117
00:11:52,640 --> 00:11:55,500
става все повече и повече
общ решаващ проблем.

118
00:11:56,540 --> 00:11:59,160
И така, нашият изкуствен
системите също се учат

119
00:11:59,160 --> 00:12:03,320
да питам всякакви
въпроси, не само робски

120
00:12:03,320 --> 00:12:07,010
опитайте се да отговорите на въпросите
дадени им от хората.

121
00:12:10,880 --> 00:12:14,920
Трябва да дадете на AI свободата
да измисля собствени задачи.

122
00:12:17,830 --> 00:12:20,610
Ако не го направите, не е така
ще стане много умен.

123
00:12:22,160 --> 00:12:26,780
От друга страна, наистина е трудно
да предвидят какво ще направят.

124
00:12:49,560 --> 00:12:52,910
- Усещам тази технология
е природна сила.

125
00:12:55,420 --> 00:13:00,020
Чувствам, че има много прилики между
технология и биологична еволюция.

126
00:13:08,850 --> 00:13:10,140
Да си играеш на Бог.

127
00:13:13,470 --> 00:13:16,500
Учените са обвинени
да си играеш на Бог за известно време,

128
00:13:17,960 --> 00:13:22,410
- но има истински смисъл в това
което създаваме нещо

129
00:13:23,380 --> 00:13:26,250
много различен от всичко
създадохме досега.

130
00:13:49,790 --> 00:13:53,250
Интересувах се от концепцията за
AI от сравнително ранна възраст.

131
00:13:55,080 --> 00:13:58,420
В един момент ми стана особено
интересуват се от машинно обучение.

132
00:14:01,690 --> 00:14:03,520
Какво е опит?

133
00:14:03,520 --> 00:14:04,710
Какво е учене?

134
00:14:04,710 --> 00:14:05,720
Какво е мисленето?

135
00:14:06,890 --> 00:14:08,150
Как работи мозъкът?

136
00:14:10,140 --> 00:14:11,940
Тези въпроси са философски,

137
00:14:11,940 --> 00:14:15,190
но изглежда, че можем
измислете алгоритми, които

138
00:14:15,190 --> 00:14:18,530
хем правят полезни неща, хем помагат
отговаряме на тези въпроси.

139
00:14:20,000 --> 00:14:22,250
Сякаш е почти като приложна философия.

140
00:14:48,060 --> 00:14:51,410
Изкуствен общ интелект, AGI.

141
00:14:52,610 --> 00:14:57,210
Компютърна система, която
може да върши всяка работа или всяка задача

142
00:14:57,210 --> 00:15:00,380
което човек прави, но само по-добре.

143
00:15:13,180 --> 00:15:15,810
Да, искам да кажа, ние определено
ще могат да създават

144
00:15:17,340 --> 00:15:20,150
напълно автономен
същества със собствени цели.

145
00:15:24,060 --> 00:15:25,630
И ще бъде много важно,

146
00:15:25,630 --> 00:15:30,440
особено като тези същества
станете много по-умни от хората,

147
00:15:30,440 --> 00:15:34,720
ще бъде важно
да има тези същества,

148
00:15:36,220 --> 00:15:39,330
че целите на тези същества
да бъде в съответствие с нашите цели.

149
00:15:42,600 --> 00:15:45,340
Това се опитваме
да направите в OpenAI.

150
00:15:45,340 --> 00:15:49,700
Бъдете в челните редици на изследванията
и насочва изследванията,

151
00:15:49,700 --> 00:15:53,940
управляват първоначалните си условия
така че да увеличите максимално шанса

152
00:15:53,940 --> 00:15:56,100
че бъдещето ще бъде добро за хората.

153
00:16:11,660 --> 00:16:14,370
Сега AI е страхотно нещо
защото AI ще реши

154
00:16:14,370 --> 00:16:16,440
всички проблеми, които имаме днес.

155
00:16:19,080 --> 00:16:22,580
Ще реши заетостта,
ще разреши болестта,

156
00:16:24,670 --> 00:16:26,560
ще реши бедността,

157
00:16:29,000 --> 00:16:31,360
но също така ще създаде нови проблеми.

158
00:16:34,580 --> 00:16:36,320
мисля че...

159
00:16:40,490 --> 00:16:43,120
Проблемът с фалшивите новини
ще бъде хиляда,

160
00:16:43,120 --> 00:16:44,360
милион пъти по-зле.

161
00:16:46,440 --> 00:16:48,820
Кибератаките ще
стават много по-екстремни.

162
00:16:50,640 --> 00:16:53,470
Ще имате напълно
автоматизирани AI оръжия.

163
00:16:56,100 --> 00:16:59,980
Мисля, че AI има потенциала да създава
безкрайно стабилни диктатури.

164
00:17:05,820 --> 00:17:08,850
Ще видиш драматично
по-интелигентни системи

165
00:17:08,850 --> 00:17:12,620
след 10 или 15 години от сега,
и мисля, че е много вероятно

166
00:17:12,620 --> 00:17:17,120
които тези системи ще имат
напълно астрономическо въздействие върху обществото.

167
00:17:19,480 --> 00:17:21,160
Ще се възползват ли хората наистина?

168
00:17:22,860 --> 00:17:24,860
И кой ще има полза, кой не?

169
00:17:44,560 --> 00:17:47,660
- През 2012 г. IBM изчисли това

170
00:17:47,660 --> 00:17:52,090
среден човек е
генериране на 500 мегабайта

171
00:17:52,090 --> 00:17:55,110
цифрови отпечатъци всеки ден.

172
00:17:55,110 --> 00:17:57,390
Представете си, че сте искали
за архивиране на стойност за един ден

173
00:17:57,390 --> 00:18:01,260
на данни, че човечеството е
оставяйки след себе си, на хартия.

174
00:18:01,260 --> 00:18:04,370
Колко висок ще бъде купчината
от хартия, която съдържа

175
00:18:04,370 --> 00:18:07,820
само за един ден данни
които човечеството произвежда?

176
00:18:09,610 --> 00:18:12,670
Като от земята е
към слънцето, четири пъти повече.

177
00:18:14,550 --> 00:18:20,340
През 2025 г. ние ще генерираме
62 гигабайта данни

178
00:18:20,640 --> 00:18:22,380
на човек, на ден.

179
00:18:36,970 --> 00:18:42,380
Оставяме тон дигитални отпечатъци
докато минаваме през живота ни.

180
00:18:44,790 --> 00:18:49,380
Те предоставят компютърни алгоритми
с доста добра представа за това кои сме,

181
00:18:49,380 --> 00:18:52,280
какво искаме, какво правим.

182
00:18:56,020 --> 00:18:59,320
В работата си гледах различно
видове цифрови отпечатъци.

183
00:18:59,320 --> 00:19:02,650
Разгледах харесванията във Facebook,
Погледнах езика,

184
00:19:02,650 --> 00:19:06,890
записи на кредитни карти, уеб сърфиране
истории, записи за търсене.

185
00:19:07,740 --> 00:19:12,010
и всеки път установявах, че ако
получавате достатъчно от тези данни,

186
00:19:12,010 --> 00:19:14,370
можете точно да предвидите бъдещото поведение

187
00:19:14,370 --> 00:19:17,560
и разкриват важни интимни черти.

188
00:19:19,140 --> 00:19:21,270
Това може да се използва по страхотни начини,

189
00:19:21,270 --> 00:19:24,670
но може и да се използва
да манипулират хората.

190
00:19:29,910 --> 00:19:33,880
Facebook предоставя ежедневна информация

191
00:19:33,880 --> 00:19:36,460
до два милиарда души или повече.

192
00:19:38,750 --> 00:19:42,840
Ако леко промените
функциониране на Facebook двигателя,

193
00:19:42,840 --> 00:19:46,500
можете да преместите мненията и следователно,

194
00:19:46,500 --> 00:19:49,870
гласовете на милиони хора.

195
00:19:50,720 --> 00:19:52,680
- Брекзит!
- Кога го искаме?

196
00:19:52,720 --> 00:19:54,140
- Сега!

197
00:19:56,070 --> 00:19:58,690
- Политик
нямаше да мога да разбера

198
00:19:58,690 --> 00:20:02,830
кое съобщение на всеки един от
неговите или нейните избиратели биха искали,

199
00:20:02,830 --> 00:20:06,010
но компютър може да види
какво политическо послание

200
00:20:06,010 --> 00:20:08,920
би било особено убедително за вас.

201
00:20:11,320 --> 00:20:12,640
- Дами и господа,

202
00:20:12,640 --> 00:20:16,170
за мен е привилегията да говоря
към вас днес за силата

203
00:20:16,170 --> 00:20:20,430
на големи данни и психографика
в изборния процес.

204
00:20:20,430 --> 00:20:22,360
- Данни от Cambridge Analytica

205
00:20:22,360 --> 00:20:25,070
тайно събраха
лична информация

206
00:20:25,070 --> 00:20:28,320
от 50 милиона нищо неподозиращи потребители на Facebook.

207
00:20:28,320 --> 00:20:31,690
САЩ!

208
00:20:31,690 --> 00:20:35,500
- Фирмата за данни, наета от Доналд Тръмп
предизборна кампания за президент

209
00:20:35,870 --> 00:20:41,080
използва тайно получена информация
за директно насочване към потенциални американски избиратели.

210
00:20:41,080 --> 00:20:42,940
- С това те казват, че могат да предскажат

211
00:20:42,940 --> 00:20:46,760
личността на всеки един
възрастен в Съединените щати.

212
00:20:47,470 --> 00:20:49,460
- Тази вечер ще се чуем
от Cambridge Analytica

213
00:20:49,460 --> 00:20:51,650
разобличител, Кристофър Уайли.

214
00:20:51,650 --> 00:20:54,990
- Това, върху което работихме, беше
програми за събиране на данни

215
00:20:54,990 --> 00:20:59,200
където ще изтеглим данни и ще ги изпълним
данни чрез алгоритми, които могат да профилират

216
00:20:59,200 --> 00:21:01,930
техните личностни черти и
други психологически характеристики

217
00:21:01,930 --> 00:21:06,580
да се възползват от психическата уязвимост
че нашите алгоритми показаха, че имат.

218
00:21:15,500 --> 00:21:17,570
- Cambridge Analytica спомена веднъж

219
00:21:17,570 --> 00:21:20,460
или каза, че техните модели
бяха базирани на моята работа,

220
00:21:22,510 --> 00:21:25,140
но Cambridge Analytica е
само един от стотиците

221
00:21:25,140 --> 00:21:30,040
на компаниите, които използват
такива методи за насочване към избирателите.

222
00:21:32,130 --> 00:21:35,760
Знаеш ли, ще ме попитат
въпроси от журналисти като,

223
00:21:35,760 --> 00:21:37,220
„И така, как се чувстваш

224
00:21:38,810 --> 00:21:41,990
"избиране на Тръмп и подкрепа за Брекзит?"

225
00:21:41,990 --> 00:21:43,940
Как отговаряте на подобен въпрос?

226
00:21:45,400 --> 00:21:51,740
Предполагам, че трябва да се справя
като бъда обвиняван за всичко това.

227
00:22:07,700 --> 00:22:12,480
- Как започна технологията
като демократизираща сила,

228
00:22:12,480 --> 00:22:15,110
като сила за добро, като
способност за хората

229
00:22:15,110 --> 00:22:17,900
да си взаимодействат с всеки
други без вратари.

230
00:22:20,210 --> 00:22:25,110
Никога не е имало по-голям експеримент
в комуникациите за човешката раса.

231
00:22:26,330 --> 00:22:29,060
Какво се случва, когато всички
може да си каже думата?

232
00:22:29,780 --> 00:22:31,850
Бихте предположили, че
би било за добро,

233
00:22:31,850 --> 00:22:34,540
че ще има повече демокрация,
ще има повече дискусии,

234
00:22:34,540 --> 00:22:37,660
ще има повече толерантност,
но това, което се случи, е това

235
00:22:37,660 --> 00:22:39,720
тези системи са били отвлечени.

236
00:22:41,300 --> 00:22:43,860
- Ние сме за свързването на всеки човек.

237
00:22:44,960 --> 00:22:46,620
За глобална общност.

238
00:22:47,780 --> 00:22:50,500
- Една компания,
Facebook е отговорен

239
00:22:50,500 --> 00:22:53,540
за комуникациите на
голяма част от човешката раса.

240
00:22:55,650 --> 00:22:57,360
Същото нещо и с Google.

241
00:22:57,360 --> 00:23:00,540
Всичко, за което искате да знаете
светът идва от тях.

242
00:23:01,540 --> 00:23:05,120
Това е глобалната информационна икономика

243
00:23:05,120 --> 00:23:07,830
който се контролира от a
малка група хора.

244
00:23:14,400 --> 00:23:17,920
- Най-богатите компании в света
всички са технологични компании.

245
00:23:18,770 --> 00:23:24,500
Google, Apple, Microsoft,
Amazon, Facebook.

246
00:23:25,880 --> 00:23:29,040
Удивително е как,

247
00:23:29,040 --> 00:23:31,770
вероятно само след 10 години,

248
00:23:31,770 --> 00:23:34,810
че цялата корпоративна властова структура

249
00:23:34,810 --> 00:23:39,460
са основно в бизнеса
на търговия с електрони.

250
00:23:41,240 --> 00:23:47,060
Тези малки битове и байтове
наистина са новата валута.

251
00:23:53,560 --> 00:23:55,800
- Начинът, по който данните се монетизират

252
00:23:55,800 --> 00:23:58,820
случва се навсякъде около нас,
дори да е невидим за нас.

253
00:24:00,960 --> 00:24:04,280
Google разполага с всяка сума
от наличната информация.

254
00:24:04,280 --> 00:24:07,110
Те проследяват хората по тяхното GPS местоположение.

255
00:24:07,110 --> 00:24:10,080
Те знаят точно какво е вашето
историята на търсенията е била.

256
00:24:10,080 --> 00:24:12,850
Те знаят вашите политически предпочитания.

257
00:24:12,850 --> 00:24:14,840
Само вашата история на търсене може да ви каже

258
00:24:14,840 --> 00:24:17,570
всичко за индивида
от здравословните им проблеми

259
00:24:17,570 --> 00:24:19,480
към техните сексуални предпочитания.

260
00:24:19,480 --> 00:24:21,880
Така че обхватът на Google е неограничен.

261
00:24:28,750 --> 00:24:31,620
- И така, видяхме Google и Facebook

262
00:24:31,620 --> 00:24:34,150
издигнете се в тези големи
машини за наблюдение

263
00:24:35,040 --> 00:24:38,200
и двамата всъщност са рекламни брокери.

264
00:24:38,200 --> 00:24:42,040
Звучи наистина светско,
но те са високотехнологични рекламни брокери.

265
00:24:42,910 --> 00:24:46,080
И причината да са такива
изгодно е, че те използват

266
00:24:46,080 --> 00:24:49,750
изкуствен интелект за
обработва всички тези данни за вас,

267
00:24:51,560 --> 00:24:54,660
и след това да ви свърже с рекламодателя

268
00:24:54,660 --> 00:24:59,660
който иска да достигне до хората
като теб, - за каквото и да е съобщение.

269
00:25:03,000 --> 00:25:07,880
- Един от проблемите с технологиите е
че е разработен да предизвиква пристрастяване.

270
00:25:07,880 --> 00:25:09,910
Начинът, по който тези компании
проектирайте тези неща

271
00:25:09,910 --> 00:25:12,010
е с цел да ви привлече и ангажира.

272
00:25:13,180 --> 00:25:16,820
Те искат да станат по същество
ротативка на вниманието.

273
00:25:18,600 --> 00:25:21,770
Така че винаги обръщате внимание,
винаги си включен в матрицата,

274
00:25:21,770 --> 00:25:23,520
винаги проверяваш.

275
00:25:26,580 --> 00:25:30,450
- Когато някой контролира това, което четете,
те също контролират какво мислите.

276
00:25:32,180 --> 00:25:34,610
Получавате повече от това, което имате
виждан преди и харесван преди,

277
00:25:34,610 --> 00:25:37,890
защото това дава повече трафик
и това дава повече реклами,

278
00:25:39,410 --> 00:25:43,160
но също така ви заключва
във вашата ехо камера.

279
00:25:43,160 --> 00:25:46,350
И това е, което води
към тази поляризация, която виждаме днес.

280
00:25:46,460 --> 00:25:49,300
Жаир Болсонаро!

281
00:25:49,970 --> 00:25:52,590
- Жаир Болсонаро,
Бразилско дясно крило

282
00:25:52,590 --> 00:25:56,000
популистки кандидат понякога
оприличен на Доналд Тръмп,

283
00:25:56,000 --> 00:25:58,640
спечелване на президентския пост в неделя
нощ в тази страна

284
00:25:58,640 --> 00:26:01,840
най-поляризиращите избори от десетилетия.

285
00:26:01,840 --> 00:26:02,840
- Болсонаро!

286
00:26:04,160 --> 00:26:09,550
- Това, което виждаме по света
е катаклизъм, поляризация и конфликт

287
00:26:10,770 --> 00:26:15,000
което е частично избутано от алгоритми

288
00:26:15,000 --> 00:26:19,070
това е разбрано
политически крайности,

289
00:26:19,070 --> 00:26:22,180
трибализъм и нещо подобно
крещи за вашия отбор,

290
00:26:22,180 --> 00:26:25,290
и да се чувстваш добре от това, е ангажиращо.

291
00:26:30,420 --> 00:26:33,150
- Социалните медии може
привличат вниманието

292
00:26:33,150 --> 00:26:35,490
да мразят престъпленията по света.

293
00:26:35,490 --> 00:26:38,120
- Става въпрос за това как
хората могат да се радикализират

294
00:26:38,120 --> 00:26:41,740
като живееш в треска
блатата на интернет.

295
00:26:41,740 --> 00:26:45,960
- Значи това е ключов момент за технологичните гиганти?
Вече готови ли са да поемат отговорност

296
00:26:45,960 --> 00:26:48,840
като издатели за какво
споделят със света?

297
00:26:49,790 --> 00:26:52,750
- Ако разположите a
мощна мощна технология

298
00:26:52,750 --> 00:26:56,670
в мащаб и ако говорите
за Google и Facebook,

299
00:26:56,670 --> 00:26:59,530
ти разгръщаш нещата
в мащаб от милиарди.

300
00:26:59,530 --> 00:27:02,770
Ако вашият изкуствен интелект
тласка поляризацията,

301
00:27:02,770 --> 00:27:05,090
имате потенциален глобален смут.

302
00:27:05,720 --> 00:27:09,240
Животът на белите има значение!

303
00:27:09,320 --> 00:27:13,620
Животът на черните има значение!

304
00:28:00,620 --> 00:28:04,040
- Изкуствен общ интелект, AGI.

305
00:28:06,350 --> 00:28:08,320
Представете си най-умния си приятел,

306
00:28:09,600 --> 00:28:11,950
с 1000 приятели, също толкова умен,

307
00:28:14,680 --> 00:28:17,580
и след това ги пуснете на 1000
пъти по-бързо от реално време.

308
00:28:17,580 --> 00:28:19,940
Така че това означава, че във всеки ден от нашето време,

309
00:28:19,940 --> 00:28:22,510
те ще направят три години мислене.

310
00:28:22,510 --> 00:28:25,520
Можете ли да си представите колко много бихте могли да направите

311
00:28:26,580 --> 00:28:31,480
ако можеше за всеки ден
свършите три години работа?

312
00:28:52,440 --> 00:28:55,720
Не би било несправедливо сравнението да се каже

313
00:28:55,720 --> 00:28:59,780
това, което имаме в момента
е още по-вълнуващо от

314
00:28:59,780 --> 00:29:02,510
квантовите физици на
началото на 20 век.

315
00:29:02,510 --> 00:29:04,240
Откриха ядрената енергия.

316
00:29:05,740 --> 00:29:08,380
Чувствам се изключително щастлив да
участвайте в това.

317
00:29:15,310 --> 00:29:18,820
Много експерти по машинно обучение,
които са много информирани и опитни,

318
00:29:18,820 --> 00:29:20,820
имат много скептицизъм относно AGI.

319
00:29:22,350 --> 00:29:25,900
За това кога ще се случи,
и за това дали изобщо може да се случи.

320
00:29:31,460 --> 00:29:35,740
Но в момента това е нещо, което просто
не че много хора все още са осъзнали.

321
00:29:36,500 --> 00:29:41,240
Че скоростта на компютрите,
за невронни мрежи, за AI,

322
00:29:41,240 --> 00:29:45,240
ще станат може би
100 000 пъти по-бързо

323
00:29:45,240 --> 00:29:46,980
в малък брой години.

324
00:29:49,330 --> 00:29:52,100
Целият хардуер
индустрия за дълго време

325
00:29:52,100 --> 00:29:54,660
наистина не знаех какво да правя след това,

326
00:29:55,660 --> 00:30:00,900
но с изкуствени невронни мрежи,
сега, когато те наистина работят,

327
00:30:00,900 --> 00:30:03,420
имате причина да създавате огромни компютри.

328
00:30:04,530 --> 00:30:06,930
Можете да вградите мозък
силиций, възможно е.

329
00:30:14,450 --> 00:30:18,710
Първите AGI
ще бъде основно много,

330
00:30:18,710 --> 00:30:22,850
много големи центрове за данни
опаковани със специализирани

331
00:30:22,850 --> 00:30:25,660
процесори за невронни мрежи
работещи паралелно.

332
00:30:28,070 --> 00:30:30,920
Компактен, горещ, енергоемък пакет,

333
00:30:32,140 --> 00:30:35,540
консумирайки около 10 милиона
енергийната стойност на домовете.

334
00:30:54,140 --> 00:30:55,640
Сандвич с печено телешко.

335
00:30:55,640 --> 00:30:58,290
Да, нещо малко по-различно.

336
00:30:58,290 --> 00:30:59,200
Само този път.

337
00:31:04,060 --> 00:31:06,260
Дори първите AGI

338
00:31:06,260 --> 00:31:09,060
ще бъде драматично
по-способни от хората.

339
00:31:10,970 --> 00:31:14,730
Хората вече няма да бъдат
икономически полезен за почти всяка задача.

340
00:31:16,200 --> 00:31:17,880
Защо искате да наемете човек,

341
00:31:17,880 --> 00:31:21,980
ако можете просто да вземете компютър, това ще стане
да го направя много по-добре и много по-евтино?

342
00:31:28,900 --> 00:31:31,020
AGI ще бъде като, без съмнение,

343
00:31:31,880 --> 00:31:34,660
най-важното
технология в историята

344
00:31:34,660 --> 00:31:36,600
на планетата с огромна разлика.

345
00:31:39,410 --> 00:31:42,550
Ще стане по-голям
отколкото електричество, ядрена енергия,

346
00:31:42,550 --> 00:31:44,140
и интернет заедно.

347
00:31:45,740 --> 00:31:47,620
Всъщност, може да се каже
че цялата цел

348
00:31:47,620 --> 00:31:49,660
на цялата човешка наука,
цел на компютърните науки,

349
00:31:49,660 --> 00:31:52,550
Краят на играта, това е
Край на играта, за да изградите това.

350
00:31:52,550 --> 00:31:54,130
И ще се строи.

351
00:31:54,130 --> 00:31:56,000
Това ще бъде нова форма на живот.

352
00:31:56,000 --> 00:31:57,090
ще бъде...

353
00:31:59,190 --> 00:32:00,740
Това ще ни направи остарели.

354
00:32:22,070 --> 00:32:24,520
- Европейски производители
познават американците

355
00:32:24,520 --> 00:32:27,460
са инвестирали сериозно в
необходимия хардуер.

356
00:32:27,460 --> 00:32:29,780
- Влезте в a
прекрасен нов свят на сила,

357
00:32:29,780 --> 00:32:31,630
производителност и продуктивност.

358
00:32:32,360 --> 00:32:35,480
- Всички изображения, които сте
предстои да видите на големия екран

359
00:32:35,480 --> 00:32:39,030
ще бъдат генерирани от
какво има в този Macintosh.

360
00:32:39,760 --> 00:32:42,210
- За мен е чест и
привилегия да ви представя

361
00:32:42,210 --> 00:32:44,700
екипът за разработка на Windows 95.

362
00:32:45,640 --> 00:32:49,040
- Човешкият физически труд има
е предимно остаряла за

363
00:32:49,040 --> 00:32:50,620
продължавайки цял век.

364
00:32:51,390 --> 00:32:55,300
Рутинен човешки умствен труд
бързо остарява

365
00:32:55,300 --> 00:32:58,980
и затова виждаме много
работните места на средната класа изчезват.

366
00:33:01,010 --> 00:33:02,340
- От време на време,

367
00:33:02,340 --> 00:33:06,370
идва революционен продукт
заедно с това променя всичко.

368
00:33:06,370 --> 00:33:09,190
Днес Apple преоткрива телефона.

369
00:33:20,730 --> 00:33:24,270
- Машинен интелект
вече е навсякъде около нас.

370
00:33:24,270 --> 00:33:27,620
Списъкът с нещата, които ние, хората
може да се справи по-добре от машините

371
00:33:27,620 --> 00:33:29,600
всъщност е
свива се доста бързо.

372
00:33:35,730 --> 00:33:37,400
- Автомобилите без шофьор са страхотни.

373
00:33:37,400 --> 00:33:40,010
Вероятно ще намалят инцидентите.

374
00:33:40,010 --> 00:33:43,670
Освен, наред с
че в Съединените щати,

375
00:33:43,670 --> 00:33:46,410
ще загубите 10 милиона работни места.

376
00:33:46,480 --> 00:33:49,980
Какво ще правиш с
10 милиона безработни?

377
00:33:54,900 --> 00:33:58,660
- Рискът за соц
конфликти и напрежение,

378
00:33:58,660 --> 00:34:02,080
ако задълбочите неравенствата,
е много, много високо.

379
00:34:11,560 --> 00:34:13,870
- AGI може, по дефиниция,

380
00:34:13,870 --> 00:34:16,700
вършете всички работи по-добре, отколкото можем.

381
00:34:16,700 --> 00:34:18,610
Хора, които казват,
„О, винаги ще има работа

382
00:34:18,610 --> 00:34:21,120
„че хората могат да се справят по-добре
отколкото машини", са просто

383
00:34:21,120 --> 00:34:24,180
залагане срещу науката и
казвайки, че никога няма да има AGI.

384
00:34:30,860 --> 00:34:33,630
- Това, което виждаме
сега е като бързащ влак

385
00:34:33,630 --> 00:34:37,880
надолу по тъмен тунел
главоломна скорост и изглежда

386
00:34:37,880 --> 00:34:39,660
ние спим на волана.

387
00:35:29,170 --> 00:35:34,710
- Голяма част от цифровите отпечатъци
които оставяме след себе си са цифрови изображения.

388
00:35:35,690 --> 00:35:39,340
И по-конкретно какво е наистина
интересно ми е като психолог

389
00:35:39,340 --> 00:35:41,470
са цифрови изображения на нашите лица.

390
00:35:44,500 --> 00:35:47,260
Тук можете да видите разликата
в очертанията на лицето

391
00:35:47,260 --> 00:35:50,130
на среден гей и
средно право лице.

392
00:35:50,130 --> 00:35:52,660
И можете да видите, че прави мъже

393
00:35:52,660 --> 00:35:55,380
имат малко по-широки челюсти.

394
00:35:55,680 --> 00:36:00,580
Гей жените имат малко по-големи челюсти,
в сравнение с хетеросексуалните жени.

395
00:36:02,510 --> 00:36:05,670
Компютърните алгоритми могат
разкриват нашите политически възгледи

396
00:36:05,670 --> 00:36:08,280
или сексуална ориентация, или интелигентност,

397
00:36:08,280 --> 00:36:11,120
само въз основа на снимката на нашите лица.

398
00:36:12,070 --> 00:36:16,760
Дори човешкият мозък може да ги различи
гейове и хетеросексуални мъже с известна точност.

399
00:36:16,920 --> 00:36:21,700
Сега се оказва, че компютърът
може да го направи с много по-висока точност.

400
00:36:21,700 --> 00:36:25,200
Това, което виждате тук, е точност на

401
00:36:25,200 --> 00:36:29,410
готов софтуер за разпознаване на лица.

402
00:36:29,410 --> 00:36:31,640
Това е ужасна новина

403
00:36:31,640 --> 00:36:34,320
за гей мъже и жени
навсякъде по света.

404
00:36:34,320 --> 00:36:35,680
И не само гей мъже и жени,

405
00:36:35,680 --> 00:36:38,300
защото същите алгоритми
може да се използва за откриване на други

406
00:36:38,300 --> 00:36:42,350
интимни черти, мислете битие
член на опозицията,

407
00:36:42,350 --> 00:36:45,090
или да си либерал, или да си атеист.

408
00:36:46,850 --> 00:36:50,070
Да си атеист е
също се наказва със смърт

409
00:36:50,070 --> 00:36:52,610
в Саудитска Арабия, например.

410
00:36:59,780 --> 00:37:04,440
Моята мисия като академик е да
предупреждават хората за опасностите от алгоритмите

411
00:37:04,440 --> 00:37:08,290
да можем да разкрием нашите интимни черти.

412
00:37:09,780 --> 00:37:14,060
Проблемът е, че когато
хората получават лоши новини,

413
00:37:14,060 --> 00:37:16,260
те много често избират да ги отхвърлят.

414
00:37:17,810 --> 00:37:22,250
Е, малко е страшно, когато започнете да получавате
смъртни заплахи от ден на ден,

415
00:37:22,250 --> 00:37:24,830
и получих доста
малко смъртни заплахи, -

416
00:37:25,910 --> 00:37:30,870
- но като учен трябва
по принцип покажете какво е възможно.

417
00:37:33,590 --> 00:37:36,900
И така, това, което наистина ме интересува
в сега е да се опитаме да видим

418
00:37:36,900 --> 00:37:41,080
дали можем да предвидим други
черти от лицата на хората.

419
00:37:46,270 --> 00:37:48,580
Сега, ако можете да откриете
депресия от лицето,

420
00:37:48,580 --> 00:37:53,580
или мисли за самоубийство, може би система за видеонаблюдение

421
00:37:53,690 --> 00:37:56,970
на гарата може да спаси животи.

422
00:37:59,130 --> 00:38:03,830
Ами ако можехме да предвидим този някой
е по-склонен да извърши престъпление?

423
00:38:04,960 --> 00:38:07,150
Вероятно сте имали училищен съветник,

424
00:38:07,150 --> 00:38:10,380
нает психолог
там за идентифициране на деца

425
00:38:10,380 --> 00:38:14,830
че потенциално може да има
някои поведенчески проблеми.

426
00:38:17,330 --> 00:38:20,080
Сега си представете дали бихте могли
прогнозира с висока точност

427
00:38:20,080 --> 00:38:22,590
че някой е вероятно да
извърши престъпление в бъдеще

428
00:38:22,590 --> 00:38:24,780
от използването на езика, от лицето,

429
00:38:24,780 --> 00:38:27,580
от изражението на лицето,
от харесванията във фейсбук.

430
00:38:32,310 --> 00:38:35,210
Не разработвам ново
методи, аз просто описвам

431
00:38:35,210 --> 00:38:38,890
нещо или тестване на нещо
в академична среда.

432
00:38:40,590 --> 00:38:42,790
Но очевидно има шанс,

433
00:38:42,790 --> 00:38:47,790
докато предупреждава хората срещу
рисковете от новите технологии,

434
00:38:47,960 --> 00:38:50,560
Може също да дам на някои хора нови идеи.

435
00:39:11,140 --> 00:39:13,830
- Още не сме се видели
бъдещето по отношение на

436
00:39:13,830 --> 00:39:18,780
начините, по които на
ново общество, управлявано от данни

437
00:39:18,780 --> 00:39:21,380
наистина ще се развие.

438
00:39:23,540 --> 00:39:26,740
Технологичните компании искат
за да получите всеки възможен бит

439
00:39:26,740 --> 00:39:30,170
на информация, че те
може да събира на всеки

440
00:39:30,170 --> 00:39:31,690
за улесняване на бизнеса.

441
00:39:33,470 --> 00:39:37,090
Полицията и военните
искате да направите същото

442
00:39:37,090 --> 00:39:38,830
за улесняване на сигурността.

443
00:39:41,960 --> 00:39:46,440
Интересите, които двамата
общите неща са огромни,

444
00:39:46,440 --> 00:39:51,220
и следователно степента на сътрудничество
между това, което може

445
00:39:51,220 --> 00:39:56,820
обадете се на военно-техническия комплекс
расте драстично.

446
00:40:00,400 --> 00:40:03,010
- ЦРУ, от много дълго време,

447
00:40:03,010 --> 00:40:06,120
е поддържал близък
връзка със Силиконовата долина.

448
00:40:07,110 --> 00:40:10,270
Техният рисков капитал
фирма, известна като In-Q-Tel,

449
00:40:10,270 --> 00:40:13,870
прави първоначални инвестиции за
развиващи се стартиращи компании

450
00:40:13,870 --> 00:40:17,490
пробивна технология, която
ЦРУ се надява да разположи.

451
00:40:18,660 --> 00:40:22,100
Palantir, фирмата за анализ на големи данни,

452
00:40:22,100 --> 00:40:25,100
едно от първите им семена
инвестициите бяха от In-Q-Tel.

453
00:40:28,950 --> 00:40:31,780
- In-Q-Tel извади злато в Palantir

454
00:40:31,780 --> 00:40:35,990
в помощ за създаването на частен доставчик

455
00:40:35,990 --> 00:40:40,850
който има интелигентност и
изкуствен интелект

456
00:40:40,850 --> 00:40:44,460
способности, които правителството
дори не може да се конкурира с.

457
00:40:46,370 --> 00:40:48,720
- Добър вечер, аз съм Питър Тийл.

458
00:40:49,740 --> 00:40:54,210
Не съм политик, но
нито Доналд Тръмп.

459
00:40:54,210 --> 00:40:58,620
Той е строител и това е
време е да възстановим Америка.

460
00:41:01,280 --> 00:41:03,940
- Питър Тийл,
основателят на Palantir,

461
00:41:03,940 --> 00:41:06,680
беше съветник по прехода на Доналд Тръмп

462
00:41:06,680 --> 00:41:09,180
и близък приятел и дарител.

463
00:41:11,080 --> 00:41:13,700
Тръмп беше избран до голяма степен на обещание

464
00:41:13,700 --> 00:41:17,560
да депортира милиони имигранти.

465
00:41:17,560 --> 00:41:22,240
Единственият начин да направите това
е с много интелигентност

466
00:41:22,240 --> 00:41:25,010
и тук се намесва Palantir.

467
00:41:28,680 --> 00:41:33,340
Те поглъщат огромни запаси
на данни, които включват,

468
00:41:33,340 --> 00:41:37,370
къде живееш, къде
работиш, кого познаваш,

469
00:41:37,370 --> 00:41:40,930
кои са вашите съседи,
кое е семейството ти,

470
00:41:40,930 --> 00:41:44,480
къде сте посетили, къде сте отседнали,

471
00:41:44,480 --> 00:41:46,320
вашия профил в социалните мрежи.

472
00:41:49,250 --> 00:41:53,240
Palantir получава всичко това
и е забележително добър

473
00:41:53,240 --> 00:41:58,240
при структурирането му по начин
което помага на правоприлагащите органи,

474
00:41:58,460 --> 00:42:02,450
имиграционните власти
или разузнавателни агенции

475
00:42:02,450 --> 00:42:06,210
от всякакъв вид, проследи те, намери те,

476
00:42:06,210 --> 00:42:09,550
и научете всичко там
е да знам за теб.

477
00:42:48,430 --> 00:42:51,040
- Влагаме AI
такса сега завинаги

478
00:42:51,040 --> 00:42:53,860
важни решения, които
засягат живота на хората.

479
00:42:54,810 --> 00:42:58,050
ИИ от старата школа имаше
неговият интелект е програмиран в

480
00:42:58,050 --> 00:43:01,420
от хора, които разбират
как работи, но днес,

481
00:43:01,420 --> 00:43:04,080
имат мощни AI системи
просто научиха за себе си,

482
00:43:04,080 --> 00:43:07,480
и нямаме представа как наистина работят,

483
00:43:07,480 --> 00:43:09,680
което прави наистина трудно да им се доверите.

484
00:43:14,270 --> 00:43:17,820
- Това не е футуристично
технология, това е сега.

485
00:43:19,470 --> 00:43:23,220
AI може да помогне да се определи
където има пожарна

486
00:43:23,220 --> 00:43:25,900
се изгражда в общност
или където е построено училище.

487
00:43:25,900 --> 00:43:28,380
Може да реши дали да получите гаранция,

488
00:43:28,380 --> 00:43:30,680
или дали ще останеш в затвора.

489
00:43:30,680 --> 00:43:32,930
Може да реши къде
полиция ще бъде.

490
00:43:32,930 --> 00:43:37,140
Може да реши дали ще бъдеш
под допълнителен полицейски контрол.

491
00:43:43,340 --> 00:43:46,140
- Сега е популярен в САЩ
за извършване на предсказуема полиция.

492
00:43:46,980 --> 00:43:50,900
Това, което правят, е, че използват алгоритъм
за да разбера къде ще бъде престъпността,

493
00:43:51,760 --> 00:43:55,240
- и те използват това, за да кажат къде
трябва да изпратим полицаи.

494
00:43:56,430 --> 00:43:59,420
Така че това се основава на a
измерване на нивото на престъпността.

495
00:44:00,640 --> 00:44:02,330
Значи знаем, че има пристрастия.

496
00:44:02,330 --> 00:44:05,090
Чернокожи и испанци
хората са спрени,

497
00:44:05,090 --> 00:44:07,180
и спрян от полицията
офицери по-често

498
00:44:07,180 --> 00:44:09,820
колкото са белите хора, толкова и ние
тези пристрастни данни влизат,

499
00:44:09,820 --> 00:44:11,820
и после какво става
използваш ли това, за да кажеш,

500
00:44:11,820 --> 00:44:13,640
— О, ето къде трябва да отидат ченгетата.

501
00:44:13,640 --> 00:44:17,320
Е, ченгетата ходят в тези квартали,
и познайте какво правят, арестуват хора.

502
00:44:17,680 --> 00:44:21,160
И след това се връща обратно
пристрастни данни в системата,

503
00:44:21,160 --> 00:44:23,060
и това се нарича обратна връзка.

504
00:44:35,990 --> 00:44:40,650
- Предсказуема полиция
води до крайностите

505
00:44:41,590 --> 00:44:45,910
на експерти, които казват: „Покажете ми вашето бебе,

506
00:44:45,910 --> 00:44:48,860
„и ще ви кажа дали
тя ще бъде престъпник."

507
00:44:51,300 --> 00:44:55,780
Сега, когато можем да го предвидим,
след това ще наблюдаваме

508
00:44:55,780 --> 00:45:01,100
тези деца много по-отблизо
и ние ще скочим върху тях

509
00:45:01,100 --> 00:45:03,700
при първия признак на проблем.

510
00:45:03,700 --> 00:45:06,700
И това ще направи
за по-ефективна полиция.

511
00:45:07,000 --> 00:45:11,250
Става, но ще стане
създават наистина мрачно общество

512
00:45:11,250 --> 00:45:16,250
и е подсилващо
драматично съществуващи несправедливости.

513
00:45:22,960 --> 00:45:27,810
- Представете си свят, в който
мрежи от камери за видеонаблюдение,

514
00:45:27,810 --> 00:45:30,930
наблюдение с дрон
камери, имат сложни

515
00:45:30,930 --> 00:45:34,440
технологии за разпознаване на лица
и са свързани

516
00:45:34,440 --> 00:45:37,020
на друго правителство
бази данни за наблюдение.

517
00:45:38,080 --> 00:45:41,190
Ние ще имаме
технология, която да има

518
00:45:41,190 --> 00:45:45,690
всички наши движения изчерпателно
проследени и записани.

519
00:45:47,680 --> 00:45:50,330
Това също означава, че ще имаме

520
00:45:50,330 --> 00:45:52,940
създаде машина на времето за наблюдение

521
00:45:52,940 --> 00:45:56,620
което ще позволи на правителствата
и мощни корпорации

522
00:45:56,620 --> 00:45:58,710
по същество да удари назад в живота ни.

523
00:45:58,710 --> 00:46:01,780
Сега може и да не сме под съмнение

524
00:46:01,780 --> 00:46:03,860
и след пет години,
може да искат да знаят

525
00:46:03,860 --> 00:46:08,100
повече за нас и може
след това пресъздайте гранулирано

526
00:46:08,100 --> 00:46:10,260
всичко, което направихме,
всички, които сме виждали,

527
00:46:10,260 --> 00:46:13,050
всички, около които сме били
през целия този период.

528
00:46:15,820 --> 00:46:19,320
Това е изключително количество сила

529
00:46:19,320 --> 00:46:21,660
за нас за семе на всеки.

530
00:46:22,910 --> 00:46:25,370
И това е свят, който аз
мисля, че е трудно

531
00:46:25,370 --> 00:46:29,180
за да си представят хората,
но вече сме построили

532
00:46:29,180 --> 00:46:31,660
архитектурата, която да позволи това.

533
00:47:07,140 --> 00:47:10,290
- Аз съм политически репортер
и ми е много интересно

534
00:47:10,290 --> 00:47:14,670
в мощните индустрии
използват политическата си власт

535
00:47:14,670 --> 00:47:17,180
да повлияе на процеса на публична политика.

536
00:47:21,000 --> 00:47:24,420
Големите технологични компании и
техните лобисти се събират

537
00:47:24,420 --> 00:47:27,530
при затворени врати и
са в състояние да създават политики

538
00:47:27,530 --> 00:47:29,340
под които всички трябва да живеем.

539
00:47:30,790 --> 00:47:35,780
Това е вярно за политиките за наблюдение,
за политики по отношение на събирането на данни,

540
00:47:35,780 --> 00:47:40,540
но и все по-важно, когато то
стига до военната и външната политика.

541
00:47:43,930 --> 00:47:50,220
От 2016 г. Министерството на отбраната
сформира Съвета за иновации в отбраната.

542
00:47:50,220 --> 00:47:54,010
Това е създадено специално тяло
да доведе топ технологични ръководители

543
00:47:54,010 --> 00:47:56,420
в по-тесен контакт с военните.

544
00:47:59,140 --> 00:48:01,750
Ерик Шмид, бивш председател на Alphabet,

545
00:48:01,750 --> 00:48:03,380
компанията майка на Google,

546
00:48:03,380 --> 00:48:07,240
става председател на
Съвет за иновации в отбраната,

547
00:48:07,240 --> 00:48:09,930
и един от първите им
приоритети беше да се каже,

548
00:48:09,930 --> 00:48:13,850
„Имаме нужда от повече изкуствен интелект
интегрирани в армията“.

549
00:48:15,930 --> 00:48:19,190
- Работил съм с група
на доброволци над

550
00:48:19,190 --> 00:48:22,150
последните няколко години да вземем
поглед върху иновациите в

551
00:48:22,150 --> 00:48:26,780
цялостна армия и моето резюме
заключението е, че имаме

552
00:48:26,780 --> 00:48:30,460
фантастични хора, които са
в капана на много лоша система.

553
00:48:33,290 --> 00:48:35,700
- От катедрата по
Гледната точка на отбраната,

554
00:48:35,700 --> 00:48:37,700
където наистина започнах
да се интересуват от него

555
00:48:37,700 --> 00:48:40,980
беше, когато започнахме да мислим
за безпилотни системи и

556
00:48:40,980 --> 00:48:45,980
как роботизирани и безпилотни системи
ще започне да променя войната.

557
00:48:46,160 --> 00:48:50,320
Колкото по-умни сте направили
Безпилотни системи и роботи,

558
00:48:50,320 --> 00:48:53,570
толкова по-силен може да си
можете да направите вашата армия.

559
00:48:55,540 --> 00:48:57,240
- заместник-министър на отбраната,

560
00:48:57,240 --> 00:49:00,420
Robert Work заедно
основна бележка, известна като

561
00:49:00,420 --> 00:49:03,680
Алгоритмичната война
Междуфункционален екип,

562
00:49:03,680 --> 00:49:05,540
по-известен като Project Maven.

563
00:49:07,830 --> 00:49:10,760
Ерик Шмид даде редица
речи и медийни изяви

564
00:49:10,760 --> 00:49:14,310
където каза това усилие
е предназначен за увеличаване на горивото

565
00:49:14,310 --> 00:49:18,240
ефективност във ВВС,
да помогне с логистиката,

566
00:49:18,240 --> 00:49:21,300
но там при затворени врати
беше друго паралелно усилие.

567
00:49:26,710 --> 00:49:29,760
В края на 2017 г. като част от Project Maven,

568
00:49:29,760 --> 00:49:33,710
Google, фирмата на Ерик Шмид,
беше натоварен да работи тайно

569
00:49:33,710 --> 00:49:36,100
в друга част от Project Maven,

570
00:49:36,100 --> 00:49:41,480
и това беше да вземем огромното
вакуумирани обеми от данни за изображения

571
00:49:41,480 --> 00:49:47,060
от дронове, работещи в Ирак
и Афганистан и да преподава AI

572
00:49:47,060 --> 00:49:49,690
за бързо идентифициране
цели на бойното поле.

573
00:49:52,600 --> 00:49:58,470
- Имаме сензор и сензор
може да направи видео с пълно движение на цял град.

574
00:49:58,470 --> 00:50:01,690
И щяхме да имаме три
работят екипи от седем души

575
00:50:01,690 --> 00:50:06,360
постоянно и можеха
обработват 15% от информацията.

576
00:50:06,360 --> 00:50:08,950
Останалите 85% от
просто беше оставена информация

577
00:50:08,950 --> 00:50:14,040
на пода на стаята за рязане, затова казахме,
„Хей, AI и машинно обучение

578
00:50:14,040 --> 00:50:17,810
„ще ни помогне да обработим
100% от информацията."

579
00:50:25,380 --> 00:50:28,760
- Google отдавна има
мотото "Не бъди зъл".

580
00:50:28,760 --> 00:50:30,630
Създадоха си публичен образ

581
00:50:30,630 --> 00:50:35,080
че са посветени
за обществена прозрачност.

582
00:50:35,080 --> 00:50:39,200
Но за Google бавно
трансформиране в отбранителен изпълнител,

583
00:50:39,200 --> 00:50:41,720
те поддържаха
най-голяма секретност.

584
00:50:41,720 --> 00:50:45,280
И Google влезе в това
този договор с повечето служители,

585
00:50:45,280 --> 00:50:49,020
дори служители, които са работили върху
програмата напълно оставена на тъмно.

586
00:51:01,840 --> 00:51:05,050
- Обикновено в Google,
всеки в компанията

587
00:51:05,050 --> 00:51:08,100
е позволено да знае за всякакви
друг проект, който се случва

588
00:51:08,100 --> 00:51:09,800
в някоя друга част на компанията.

589
00:51:11,180 --> 00:51:14,300
С Project Maven, фактът
че се пази в тайна,

590
00:51:14,300 --> 00:51:18,740
Мисля, че беше тревожно за хората
защото това не е норма в Google.

591
00:51:20,620 --> 00:51:22,940
- Когато тази история беше разкрита за първи път,

592
00:51:22,940 --> 00:51:25,540
това предизвика огнена буря в Google.

593
00:51:25,540 --> 00:51:28,420
Имахте няколко служители
отказ от протести,

594
00:51:28,420 --> 00:51:31,900
други подписват петиция
възразява срещу тази работа.

595
00:51:34,130 --> 00:51:37,680
- Трябва наистина да кажете,
„Не искам повече да бъда част от това.“

596
00:51:38,820 --> 00:51:41,750
Има фирми
наречени отбранителни изпълнители

597
00:51:41,750 --> 00:51:45,830
и Google просто не трябва
бъдете една от тези компании

598
00:51:45,830 --> 00:51:50,040
защото хората трябва да вярват
Google за работа на Google.

599
00:51:52,070 --> 00:51:55,710
– Добро утро и добре дошли в Google I/O.

600
00:51:57,310 --> 00:52:00,160
- Виждали сме такива имейли
показват, че Google просто

601
00:52:00,160 --> 00:52:03,350
продължи да заблуждава своите
служители, че дронът

602
00:52:03,350 --> 00:52:07,390
програмата за насочване беше само a
незначително усилие, което би могло най-много

603
00:52:07,390 --> 00:52:11,170
струва 9 милиона долара за фирмата,
което е капка в кофата

604
00:52:11,170 --> 00:52:13,540
за гигантска компания като Google.

605
00:52:14,400 --> 00:52:17,300
Но от вътрешни имейли, които получихме,

606
00:52:17,300 --> 00:52:21,530
Google очакваше Project
Мейвън би се увеличил до толкова

607
00:52:21,530 --> 00:52:26,530
като $250 милиона, и че това
цялото усилие би осигурило

608
00:52:26,630 --> 00:52:29,900
Google със специална защита
Заверка на отдел да се направи

609
00:52:29,900 --> 00:52:32,660
те са достъпни дори за
по-големи договори за отбрана,

610
00:52:32,660 --> 00:52:34,980
някои на стойност до 10 милиарда долара.

611
00:52:45,710 --> 00:52:49,750
Натискът върху Google да
конкурират се за военни договори

612
00:52:49,750 --> 00:52:53,780
дойде в момент, когато неговите конкуренти
също променят своята култура.

613
00:52:55,850 --> 00:53:00,070
Amazon, подобно представяне на
военни и правоприлагащи органи.

614
00:53:00,070 --> 00:53:02,280
IBM и други водещи фирми,

615
00:53:02,280 --> 00:53:04,890
те налагат закона
правоприлагане и военни.

616
00:53:05,840 --> 00:53:09,420
За да останете конкурентоспособни, Google
бавно се трансформира.

617
00:53:15,150 --> 00:53:18,910
- Отбранителната наука
Съвет каза за всички

618
00:53:18,910 --> 00:53:22,170
технологичният напредък, който
се случват в момента,

619
00:53:22,170 --> 00:53:26,780
най-важното нещо
беше изкуствен интелект

620
00:53:26,780 --> 00:53:30,780
и автономните операции
че ще доведе.

621
00:53:30,780 --> 00:53:32,330
Инвестираме ли достатъчно?

622
00:53:37,810 --> 00:53:41,220
- След като разработим това, което е известно като

623
00:53:41,220 --> 00:53:45,820
автономни смъртоносни оръжия, с други думи,

624
00:53:45,820 --> 00:53:51,510
оръжия, които изобщо не се контролират,
те са наистина автономни,

625
00:53:51,510 --> 00:53:54,000
трябва само да получиш
президент, който казва,

626
00:53:54,000 --> 00:53:56,410
„По дяволите международното право,
ние имаме тези оръжия.

627
00:53:56,410 --> 00:53:58,560
„Ще направим какво
искаме с тях."

628
00:54:02,540 --> 00:54:03,960
- Много сме близки.

629
00:54:03,960 --> 00:54:06,340
Когато имате хардуера
вече е настроен

630
00:54:06,340 --> 00:54:10,360
и всичко, което трябва да направите, е да натиснете превключвател
за да стане напълно автономен,

631
00:54:10,360 --> 00:54:13,240
какво е това там
да те спира да правиш това?

632
00:54:14,670 --> 00:54:19,080
Има от какво наистина да се страхуваме
във война с машинна скорост.

633
00:54:19,930 --> 00:54:24,370
Ами ако си машина и си избягал
милиони и милиони различни военни сценарии

634
00:54:24,370 --> 00:54:28,060
и имате екип от дронове и
делегирал си контрол на половината от тях,

635
00:54:28,060 --> 00:54:30,790
и си сътрудничите в реално време?

636
00:54:30,790 --> 00:54:35,600
Какво се случва, когато този рояк търтеи
има за задача да ангажира град?

637
00:54:37,490 --> 00:54:39,870
Как ще превземат този град?

638
00:54:39,870 --> 00:54:42,760
Отговорът е, че няма да го направим
знам, докато не се случи.

639
00:54:50,020 --> 00:54:53,910
- Не искаме AI система да решава

640
00:54:53,910 --> 00:54:56,180
какъв човек ще атакува,

641
00:54:56,180 --> 00:54:59,500
но ние се изправяме срещу
авторитарни конкуренти.

642
00:54:59,500 --> 00:55:02,450
Така че според мен авторитарен режим

643
00:55:02,450 --> 00:55:05,710
ще има по-малко проблеми
делегиране на правомощия

644
00:55:05,710 --> 00:55:08,460
към машина за вземане на смъртоносни решения.

645
00:55:09,410 --> 00:55:12,660
Така че как ще се развие това, остава да видим.

646
00:55:37,270 --> 00:55:41,020
- Почти дарбата на AI
сега е, че ще ни принуди

647
00:55:41,020 --> 00:55:44,410
колективно да мислим
чрез на много основно ниво,

648
00:55:44,410 --> 00:55:46,310
какво означава да си човек?

649
00:55:48,620 --> 00:55:50,510
Какво правя като човек по-добре

650
00:55:50,510 --> 00:55:52,970
отколкото определен
може ли супер умна машина?

651
00:55:56,300 --> 00:56:01,000
Първо, ние създаваме нашата технология
и след това ни пресъздава.

652
00:56:01,000 --> 00:56:05,630
Трябва да сме сигурни, че ние
не пропускайте някои от нещата

653
00:56:05,630 --> 00:56:07,520
които ни правят толкова красиви хора.

654
00:56:11,840 --> 00:56:14,380
- След като изградим интелигентни машини,

655
00:56:14,380 --> 00:56:16,920
философския речник
имаме на разположение да мислим

656
00:56:16,920 --> 00:56:20,680
за себе си като хора
все повече ни проваля.

657
00:56:23,160 --> 00:56:25,950
Ако ви помоля да напишете a
списък на всички условия, които имате

658
00:56:25,950 --> 00:56:28,960
готов да се опишеш като човек,

659
00:56:28,960 --> 00:56:31,100
няма толкова много термини.

660
00:56:31,100 --> 00:56:38,140
Култура, история, социалност,
може би политика, цивилизация,

661
00:56:38,820 --> 00:56:45,090
субективност, всичко това
условия основават в две позиции

662
00:56:45,670 --> 00:56:48,020
че хората са повече от обикновени животни

663
00:56:49,000 --> 00:56:52,200
и че хората са
повече от обикновени машини.

664
00:56:55,140 --> 00:56:59,290
Но ако машините наистина
мисля, че има голям набор

665
00:56:59,290 --> 00:57:03,520
на ключови философски въпроси
в който залогът е:

666
00:57:04,880 --> 00:57:09,080
кои сме ние Какво е нашето място в света?
какво е светът Как е структуриран?

667
00:57:09,080 --> 00:57:12,190
Направете категориите, на които сме разчитали

668
00:57:12,190 --> 00:57:14,510
- Работят ли още? Грешаха ли?

669
00:57:19,500 --> 00:57:22,220
- Много хора мислят за интелигентност
като нещо тайнствено

670
00:57:22,220 --> 00:57:26,190
които могат да съществуват само вътре в
биологични организми, като нас,

671
00:57:26,190 --> 00:57:29,260
но интелигентността е всичко
относно обработката на информация.

672
00:57:30,280 --> 00:57:32,230
Няма значение дали
интелигентността се обработва

673
00:57:32,230 --> 00:57:35,940
от въглеродни атоми вътре в
клетки и мозъци и хора,

674
00:57:35,940 --> 00:57:38,020
или от силициевите атоми в компютрите.

675
00:57:40,700 --> 00:57:43,320
Част от успеха на
AI наскоро дойде

676
00:57:43,320 --> 00:57:47,540
от кражба на страхотни идеи от еволюцията.

677
00:57:47,540 --> 00:57:49,320
Забелязахме, че мозъкът, напр.

678
00:57:49,320 --> 00:57:52,920
има всички тези неврони вътре
свързани по сложни начини.

679
00:57:52,920 --> 00:57:55,660
Така че откраднахме тази идея и я абстрахирахме

680
00:57:55,660 --> 00:57:58,350
в изкуствени нервни
мрежи в компютрите,

681
00:57:59,330 --> 00:58:02,800
и това е, което революционизира
машинен интелект.

682
00:58:07,690 --> 00:58:10,300
Ако един ден станем Изкуствени
Общо разузнаване,

683
00:58:10,300 --> 00:58:14,330
тогава по дефиниция AI може
също вършат по-добре работата на AI

684
00:58:14,330 --> 00:58:18,930
програмиране и това означава
че по-нататъшен напредък в осъществяването

685
00:58:18,930 --> 00:58:22,950
AI ще бъде доминиран не от
човешки програмисти, но от AI.

686
00:58:25,450 --> 00:58:29,090
Рекурсивно самоподобряващ се AI
може да остави човешкия интелект

687
00:58:29,090 --> 00:58:32,990
далече назад,
създаване на супер интелигентност.

688
00:58:34,970 --> 00:58:37,970
Ще е последното
изобретение, което някога трябва да направим,

689
00:58:37,970 --> 00:58:40,520
защото след това може да измисли всичко останало

690
00:58:40,520 --> 00:58:42,010
много по-бързо, отколкото бихме могли.

691
00:59:54,040 --> 00:59:59,040
- Има бъдеще, което
всички трябва да говорим за.

692
00:59:59,110 --> 01:00:02,430
Някои от основните
въпроси за бъдещето

693
01:00:02,430 --> 01:00:06,280
на изкуствения интелект,
не само къде отива,

694
01:00:06,280 --> 01:00:09,630
но какво означава за обществото да отиде там.

695
01:00:10,930 --> 01:00:14,620
Това не е това, което компютрите могат да направят,

696
01:00:14,620 --> 01:00:17,590
но какво трябва да правят компютрите.

697
01:00:17,590 --> 01:00:22,210
Като поколението на хората
което носи AI в бъдещето,

698
01:00:22,210 --> 01:00:27,690
ние сме поколението, което ще
отговори на този въпрос преди всичко.

699
01:00:34,570 --> 01:00:37,380
- Не сме създали
мислеща машина на човешко ниво все още,

700
01:00:37,380 --> 01:00:39,410
но се приближаваме все повече и повече.

701
01:00:41,100 --> 01:00:44,780
Може би ще стигнем до човешко ниво
AI след пет години

702
01:00:44,780 --> 01:00:47,410
или може би ще отнеме 50
или след 100 години.

703
01:00:47,660 --> 01:00:51,540
Почти няма значение.
Сякаш всичко това е много, много скоро,

704
01:00:51,540 --> 01:00:56,060
по отношение на цялостното
история на човечеството.

705
01:01:01,200 --> 01:01:02,180
Много хубаво.

706
01:01:15,750 --> 01:01:19,350
И така, полето AI е
изключително международен.

707
01:01:19,350 --> 01:01:23,790
Китай се издига и идва и е
започва да съперничи на САЩ,

708
01:01:23,790 --> 01:01:26,940
Европа и Япония по отношение на поставянето на много

709
01:01:26,940 --> 01:01:29,770
на процесорната мощ зад AI

710
01:01:29,770 --> 01:01:33,120
и събиране на много
данни, които да помогнат на AI да учи.

711
01:01:35,960 --> 01:01:40,540
Имаме младо поколение
на китайски изследователи сега.

712
01:01:40,540 --> 01:01:43,910
Никой не знае къде следва
революцията ще дойде от.

713
01:01:50,120 --> 01:01:54,290
- Китай винаги е искал да стане
суперсилата в света.

714
01:01:56,120 --> 01:01:59,410
Китайското правителство смята, че AI
им даде шанс да станат

715
01:01:59,410 --> 01:02:03,940
един от най-напредналите
технологично, бизнес мъдро.

716
01:02:04,190 --> 01:02:07,780
Така че китайското правителство гледа
това като огромна възможност.

717
01:02:09,140 --> 01:02:13,670
Все едно са вдигнали знаме
и каза: „Това е добро поле.

718
01:02:13,670 --> 01:02:16,300
„Компаниите трябва да се включат в това.“

719
01:02:16,300 --> 01:02:18,300
След това търговският свят на Китай
и компаниите казват,

720
01:02:18,300 --> 01:02:20,800
„Добре, правителството
вдигна знаме, това е добре.

721
01:02:20,800 --> 01:02:22,500
— Да вложим парите в него.

722
01:02:23,900 --> 01:02:28,090
Китайски технологични гиганти като Baidu,
като Tencent и като AliBaba,

723
01:02:28,090 --> 01:02:31,800
те слагат много от
инвестиции в областта на ИИ.

724
01:02:33,410 --> 01:02:36,740
Така че виждаме, че китайският ИИ
развитието е в подем.

725
01:02:43,430 --> 01:02:47,370
- В Китай всички
има плащане чрез Alipay и WeChat,

726
01:02:47,370 --> 01:02:49,500
така че мобилното плащане е навсякъде.

727
01:02:50,850 --> 01:02:54,850
И с това те могат
направете много AI анализи

728
01:02:54,850 --> 01:02:59,340
да знаете като вашите разходи
навици, вашия кредитен рейтинг.

729
01:03:01,150 --> 01:03:06,100
Технология за разпознаване на лица
е широко разпространено в Китай,

730
01:03:06,100 --> 01:03:08,200
на летища и гари.

731
01:03:09,040 --> 01:03:11,570
Така че в бъдеще може би
само след няколко месеца,

732
01:03:11,570 --> 01:03:15,140
не ти трябва хартия
билет за качване на влак.

733
01:03:15,140 --> 01:03:15,970
Само лицето ти.

734
01:03:24,620 --> 01:03:29,690
- Ние генерираме най-голямата платформа в света
на лицево разпознаване.

735
01:03:31,260 --> 01:03:37,300
Имаме 300 000 разработчици
използвайки нашата платформа.

736
01:03:38,330 --> 01:03:41,550
Голяма част от тях са приложения за селфи камери.

737
01:03:41,550 --> 01:03:43,930
Това ви кара да изглеждате по-красиви.

738
01:03:46,550 --> 01:03:49,780
Има милиони и милиони
на камерите в света,

739
01:03:50,760 --> 01:03:54,880
всяка камера от моята точка
е генератор на данни.

740
01:03:58,820 --> 01:04:02,810
В окото на машината, твоето лице
ще се промени в характеристиките

741
01:04:02,810 --> 01:04:06,660
и ще обърне лицето ви
в параграф от код.

742
01:04:07,720 --> 01:04:11,980
Така че можем да установим на колко години сте
са, ако сте мъж или жена,

743
01:04:11,980 --> 01:04:13,440
и вашите емоции.

744
01:04:16,640 --> 01:04:20,110
Пазаруването е за какъв вид
на нещото, което гледате.

745
01:04:20,110 --> 01:04:25,650
Можем да проследим очите ви,
така че ако се фокусирате върху някакъв продукт,

746
01:04:25,650 --> 01:04:28,690
можем да проследим това, за да знаем

747
01:04:28,690 --> 01:04:32,120
какви хора харесват
какъв вид продукт.

748
01:04:42,450 --> 01:04:45,820
Нашата мисия е да създадем платформа

749
01:04:45,950 --> 01:04:50,300
което ще даде възможност на милиони AI
разработчици в Китай.

750
01:04:51,280 --> 01:04:58,060
Проучваме всички данни, които можем да получим.

751
01:05:00,440 --> 01:05:04,350
Не само потребителски профили,

752
01:05:04,350 --> 01:05:08,380
но това, което правите в момента,

753
01:05:09,460 --> 01:05:12,060
вашето географско местоположение.

754
01:05:15,380 --> 01:05:23,580
Тази платформа ще бъде толкова ценна, че ние не го правим
дори да се притеснявате за печалбата сега,

755
01:05:23,580 --> 01:05:27,660
защото определено го има.

756
01:05:29,660 --> 01:05:34,420
Социалната кредитна система на Китай е
само едно от приложенията.

757
01:05:45,990 --> 01:05:48,040
- Китайското правителство използва множество

758
01:05:48,040 --> 01:05:50,810
различни видове
технологии, независимо дали е AI,

759
01:05:50,810 --> 01:05:53,650
независимо дали са големи данни
платформи, разпознаване на лица,

760
01:05:53,650 --> 01:05:57,030
разпознаване на глас, основно за наблюдение

761
01:05:57,030 --> 01:05:58,800
какво прави населението.

762
01:06:01,860 --> 01:06:04,240
Мисля, че китайците
правителството го направи много ясно

763
01:06:04,240 --> 01:06:09,240
намерението си да събере масивни
количество данни за хората

764
01:06:09,600 --> 01:06:13,300
за социално инженерство a
общество без инакомислие.

765
01:06:16,040 --> 01:06:19,060
Логиката зад китайското правителство

766
01:06:19,060 --> 01:06:23,180
социална кредитна система,
това е да приемем идеята, че

767
01:06:23,180 --> 01:06:27,930
дали сте кредит
достойни за финансов заем

768
01:06:27,930 --> 01:06:31,860
и добавяйки към него много
политическо измерение да кажа,

769
01:06:31,860 --> 01:06:34,270
„Вие заслужаващо доверие човешко същество ли сте?

770
01:06:36,530 --> 01:06:40,270
„Това, което каза онлайн, бил ли си някога
критични към властите?

771
01:06:40,270 --> 01:06:42,190
— Имате ли криминално досие?

772
01:06:43,720 --> 01:06:47,340
И цялата тази информация е
опаковани заедно за оценка

773
01:06:47,340 --> 01:06:51,820
вие по начини, които ако имате
представиха се добре според тях,

774
01:06:51,820 --> 01:06:56,490
ще имате по-лесен достъп до определени видове
на държавни услуги или помощи.

775
01:06:57,790 --> 01:06:59,710
Но ако не сте се справили много добре,

776
01:06:59,710 --> 01:07:02,130
ти ще бъдеш
наказани или ограничени.

777
01:07:05,940 --> 01:07:09,020
Няма начин хората да
оспорват тези обозначения

778
01:07:09,020 --> 01:07:12,100
или в някои случаи дори знаят това
те са били поставени в тази категория,

779
01:07:12,100 --> 01:07:17,990
и едва когато се опитат да получат достъп до някакъв вид
на държавна служба или купете самолетен билет,

780
01:07:17,990 --> 01:07:20,460
или вземете паспорт, или
запишат детето си на училище,

781
01:07:20,460 --> 01:07:23,590
че идват да научат, че са
е етикетиран по този начин,

782
01:07:23,590 --> 01:07:27,550
и че има отрицателни
последствия за тях като резултат.

783
01:07:44,970 --> 01:07:48,660
Изхарчихме по-голямата част
от последните една-две години

784
01:07:48,660 --> 01:07:53,180
разглеждане на злоупотреби с наблюдение
технологии в Китай,

785
01:07:53,180 --> 01:07:56,030
и много от тази работа
ни отведе до Синдзян,

786
01:07:57,580 --> 01:08:01,220
Северозападният район на
Китай, който има повече от половината

787
01:08:01,220 --> 01:08:05,870
население от тюркски мюсюлмани,
Уйгури, казахи и хуи.

788
01:08:08,430 --> 01:08:10,980
Това е регион и а
население китайското правителство

789
01:08:10,980 --> 01:08:14,900
отдавна се счита за
политически заподозрян или нелоялен.

790
01:08:17,580 --> 01:08:20,160
Дойдохме да намерим информация
за това, което се нарича

791
01:08:20,160 --> 01:08:23,130
интегрирана платформа за съвместни операции,

792
01:08:23,130 --> 01:08:27,190
което е предсказуема полиция
програма и това е едно

793
01:08:27,190 --> 01:08:30,650
от програмите, които са били
плюене на списъци с имена

794
01:08:30,650 --> 01:08:33,560
на хората, които да бъдат подложени
до политическо превъзпитание.

795
01:08:39,090 --> 01:08:42,770
Редица наши интервюирани
за доклада, който току-що публикувахме

796
01:08:42,770 --> 01:08:46,110
за политическото образование
лагери в Синцзян просто

797
01:08:46,110 --> 01:08:50,380
нарисуван необикновен
портрет на държава под наблюдение.

798
01:08:53,460 --> 01:08:56,380
Регион, пълен с камери за наблюдение

799
01:08:56,380 --> 01:09:00,600
за целите на разпознаването на лица,
контролно-пропускателни пунктове, скенери за тяло,

800
01:09:00,600 --> 01:09:04,030
QR кодове извън домовете на хората.

801
01:09:05,660 --> 01:09:10,690
Да, това наистина е нещо като дистопия
филми, които всички сме гледали и сме си мислили,

802
01:09:10,690 --> 01:09:13,160
„Уау, това би било а
страховит свят за живеене."

803
01:09:13,160 --> 01:09:16,510
Да, добре, 13 милиона
Тюркски мюсюлмани в Китай

804
01:09:16,510 --> 01:09:18,530
живеят в тази реалност в момента.

805
01:09:30,840 --> 01:09:33,060
- съобщава The Intercept
които Google планира

806
01:09:33,060 --> 01:09:36,490
стартирайте цензурирана версия на
неговата търсачка в Китай.

807
01:09:36,490 --> 01:09:38,730
- Търсене на Google
за нови пазари го води

808
01:09:38,730 --> 01:09:42,170
в Китай, въпреки Пекин
правила за цензурата.

809
01:09:42,170 --> 01:09:44,080
- Разкажи ни повече
за това защо сте го почувствали

810
01:09:44,080 --> 01:09:46,650
вашата етична отговорност да подадете оставка,

811
01:09:46,650 --> 01:09:51,060
защото говориш за съучастничество в
цензура и потисничество и наблюдение.

812
01:09:51,060 --> 01:09:54,220
- Има един китаец
рискова компания, която трябва да бъде

813
01:09:54,220 --> 01:09:56,230
настроени за работа на Google в Китай.

814
01:09:56,230 --> 01:09:58,920
И въпросът е към какво
степен стигнаха ли до контрол

815
01:09:58,920 --> 01:10:01,970
черния списък и към какво
степен биха имали просто

816
01:10:01,970 --> 01:10:05,220
неограничен достъп до
наблюдение на китайски граждани?

817
01:10:05,220 --> 01:10:07,470
И фактът, че Google
отказва да отговори

818
01:10:07,470 --> 01:10:09,250
на правозащитни организации по този въпрос,

819
01:10:09,250 --> 01:10:12,060
Мисля, че трябва да бъде изключително
смущаващо за всички.

820
01:10:16,640 --> 01:10:21,120
Поради моето убеждение, че дисидентството е
фундаментални за функциониращите демокрации

821
01:10:21,120 --> 01:10:25,560
и принуден да подаде оставка, за да избегне
допринасяйки или печелейки от ерозията

822
01:10:25,560 --> 01:10:27,510
за защита на дисидентите.

823
01:10:28,560 --> 01:10:30,920
ООН в момента е
съобщавайки, че между

824
01:10:30,920 --> 01:10:34,190
200 000 и един милион
Уйгурите са изчезнали

825
01:10:34,190 --> 01:10:36,520
в лагери за превъзпитание.

826
01:10:36,520 --> 01:10:39,290
И има сериозен аргумент
че Google ще бъде съучастник

827
01:10:39,290 --> 01:10:42,460
трябва ли да започне наблюдение
версия на търсенето в Китай.

828
01:10:45,180 --> 01:10:51,380
Dragonfly е предназначен проект
за стартиране на търсене в Китай под

829
01:10:51,390 --> 01:10:55,810
разпоредби на китайското правителство,
които включват цензура

830
01:10:55,810 --> 01:10:59,510
чувствително съдържание, основно
въпроси относно правата на човека,

831
01:10:59,510 --> 01:11:03,210
информация за политически
представители е блокиран,

832
01:11:03,210 --> 01:11:07,080
информация за студента
протестите са блокирани.

833
01:11:07,080 --> 01:11:09,180
И това е една малка част от него.

834
01:11:09,180 --> 01:11:12,250
Може би е по-дълбока загриженост
наблюдаващата страна на това.

835
01:11:16,070 --> 01:11:19,580
Когато повдигнах въпроса пред моите мениджъри,
с моите колеги,

836
01:11:19,580 --> 01:11:23,370
имаше много притеснения, но всички
просто каза: "Не знам нищо."

837
01:11:27,760 --> 01:11:30,200
И тогава, когато най-накрая имаше среща,

838
01:11:30,200 --> 01:11:35,080
по същество нямаше адресиране
сериозните опасения, свързани с него.

839
01:11:37,010 --> 01:11:39,790
Тогава подадох официалната си оставка,

840
01:11:39,790 --> 01:11:42,950
не само на моя мениджър,
но всъщност го разпространих в цялата компания.

841
01:11:42,950 --> 01:11:45,440
И това е писмото
от който четях.

842
01:11:50,360 --> 01:11:55,960
Лично аз не съм спал добре.
Имах доста ужасяващи главоболия,

843
01:11:55,960 --> 01:11:58,520
събуди се по средата на
нощта просто изпотяване.

844
01:12:00,640 --> 01:12:03,340
С това казано, какво аз
намерени, откакто проговори

845
01:12:03,340 --> 01:12:07,930
колко положително е глобалното
отговорът на това е бил.

846
01:12:10,350 --> 01:12:13,910
Инженерите трябва да изискват
да знаете какви са употребите

847
01:12:13,910 --> 01:12:16,280
от техния технически принос са

848
01:12:16,280 --> 01:12:19,340
и да има място на масата
в тези етични решения.

849
01:12:27,020 --> 01:12:29,590
Повечето граждани всъщност не го правят
разберете какво означава да бъдеш

850
01:12:29,590 --> 01:12:32,250
в много голям мащаб
предписваща технология.

851
01:12:33,720 --> 01:12:36,260
Където някой вече го е направил
предварително си раздели работата

852
01:12:36,260 --> 01:12:38,300
и всичко, за което знаеш
е твоето малко парче,

853
01:12:38,300 --> 01:12:41,150
и почти сигурно не го правите
разберете как се вписва.

854
01:12:44,630 --> 01:12:51,040
Така че мисля, че си струва да направим аналогията
към работата на физиците върху атомната бомба.

855
01:12:53,840 --> 01:12:56,610
Всъщност това е всъщност
общността, от която излязох.

856
01:12:59,220 --> 01:13:03,460
В никакъв случай не съм бил ядрен учен,
но бях приложен математик

857
01:13:04,400 --> 01:13:09,400
и моята докторска програма всъщност беше финансирана
да обучават хора за работа в оръжейни лаборатории.

858
01:13:12,980 --> 01:13:17,100
Със сигурност може да се спори
че има екзистенциална заплаха

859
01:13:17,820 --> 01:13:22,060
и който и да е водещ
в AI ще води военно.

860
01:13:31,420 --> 01:13:34,250
- Китай напълно очаква
подмине Съединените щати

861
01:13:34,250 --> 01:13:37,480
като икономика номер едно в
светът и вярва в това

862
01:13:37,480 --> 01:13:42,450
AI ще направи този скок по-голям
бързо и по-драматично.

863
01:13:43,900 --> 01:13:46,480
И те също го виждат като
да можеш да надскочиш

864
01:13:46,480 --> 01:13:49,820
Съединените щати в
условия на военна мощ.

865
01:13:57,580 --> 01:13:59,600
Планът им е много прост.

866
01:13:59,600 --> 01:14:03,620
Искаме да хванем Съединените щати
и тези технологии до 2020 г.,

867
01:14:03,620 --> 01:14:07,940
искаме да надминем САЩ
в тези технологии до 2025 г.,

868
01:14:07,940 --> 01:14:12,600
и ние искаме да бъдем световен лидер в AI
и автономни технологии до 2030 г.

869
01:14:15,110 --> 01:14:16,850
Това е национален план.

870
01:14:16,850 --> 01:14:21,790
Подкрепено е от поне
$150 милиарда инвестиции.

871
01:14:21,790 --> 01:14:25,060
Така че това определено е състезание.

872
01:14:50,070 --> 01:14:52,070
- AI е малко като огън.

873
01:14:53,360 --> 01:14:56,270
Огънят е изобретен преди 700 000 години,

874
01:14:57,480 --> 01:14:59,820
и има своите плюсове и минуси.

875
01:15:01,960 --> 01:15:06,810
Хората осъзнаха, че можете да използвате огън
да се стопли през нощта и да готви,

876
01:15:08,520 --> 01:15:14,420
но също така разбраха, че можете
убивайте други хора с това.

877
01:15:19,860 --> 01:15:24,300
Огънят също има това
Качество на отглеждане, подобно на AI

878
01:15:24,300 --> 01:15:27,400
в горски пожар без повече човешки шум,

879
01:15:30,530 --> 01:15:35,970
но предимствата надделяват
недостатъците от толкова много

880
01:15:35,970 --> 01:15:39,760
че не отиваме
да спре развитието му.

881
01:15:49,540 --> 01:15:51,180
Европа се събужда.

882
01:15:52,160 --> 01:15:58,390
Много компании в Европа
осъзнават, че следващата вълна от ИИ

883
01:15:58,730 --> 01:16:01,540
ще бъде много по-голяма от сегашната вълна.

884
01:16:03,310 --> 01:16:08,000
Следващата вълна от AI ще бъде за роботи.

885
01:16:09,810 --> 01:16:15,450
Всички тези машини, които правят
неща, които произвеждат неща,

886
01:16:15,450 --> 01:16:19,370
които изграждат други машини,
те ще станат умни.

887
01:16:26,660 --> 01:16:29,950
В не толкова далечното бъдеще,
ще имаме роботи

888
01:16:29,950 --> 01:16:33,290
че можем да преподаваме, както учим деца.

889
01:16:35,640 --> 01:16:38,660
Например, ще говоря с a
малък робот и аз ще кажа,

890
01:16:39,970 --> 01:16:42,550
„Виж тук, роботе, виж тук.

891
01:16:42,550 --> 01:16:44,620
„Нека сглобим смартфон.

892
01:16:44,620 --> 01:16:48,720
„Ние вземаме тази пластмасова плоча така
и ние вземаме такава отвертка,

893
01:16:48,720 --> 01:16:52,310
„и сега прецакваме всичко по този начин.

894
01:16:52,310 --> 01:16:54,310
„Не, не, не така.

895
01:16:54,310 --> 01:16:57,690
„Така, виж, роботе, виж, така.“

896
01:16:58,820 --> 01:17:01,890
И той ще провали двойка
пъти, но доста бързо,

897
01:17:01,890 --> 01:17:05,860
той ще се научи да прави същото
много по-добре, отколкото бих могъл да го направя.

898
01:17:06,710 --> 01:17:11,400
И тогава спираме ученето
и ние правим един милион копия и го продаваме.

899
01:17:32,410 --> 01:17:35,800
Регулиране на AI звуци
като привлекателна идея,

900
01:17:35,800 --> 01:17:38,210
но не мисля, че е възможно.

901
01:17:40,250 --> 01:17:42,720
Една от причините да не работи е

902
01:17:42,720 --> 01:17:46,360
чистото любопитство на учените.

903
01:17:47,260 --> 01:17:49,560
Не им пука за регулиране.

904
01:17:52,640 --> 01:17:56,740
Военните сили няма да дадат
по дяволите и за разпоредбите.

905
01:17:56,740 --> 01:17:59,020
Те ще кажат,
„Ако ние, американците не го направим,

906
01:17:59,020 --> 01:18:00,720
"тогава китайците ще го направят."

907
01:18:00,720 --> 01:18:03,150
И китайците ще кажат,
„О, ако не го направим,

908
01:18:03,150 --> 01:18:04,810
"тогава руснаците ще го направят."

909
01:18:07,700 --> 01:18:10,930
Без значение какви политически
регулацията е там,

910
01:18:10,930 --> 01:18:14,660
всички тези военно-промишлени комплекси,

911
01:18:14,660 --> 01:18:17,570
те почти ще минат
дефиницията трябва да игнорира това

912
01:18:18,670 --> 01:18:21,250
защото искат да избегнат изоставането.

913
01:18:26,030 --> 01:18:27,690
Добре дошли в Синхуа.

914
01:18:27,690 --> 01:18:30,260
Аз съм първата жена в света
Разработен водещ на новини с изкуствен интелект

915
01:18:30,260 --> 01:18:32,690
съвместно от Синхуа и
компания за търсачки Sogou.

916
01:18:33,050 --> 01:18:36,310
- Програма, разработена от
компанията OpenAI може да пише

917
01:18:36,310 --> 01:18:39,500
последователни и достоверни истории
точно като човешките същества.

918
01:18:39,500 --> 01:18:41,520
- Това е една малка стъпка за машината,

919
01:18:41,520 --> 01:18:44,330
един огромен скок за машината.

920
01:18:44,330 --> 01:18:47,170
Най-новият изкуствен продукт на IBM
разузнавателна система пое

921
01:18:47,170 --> 01:18:51,570
опитни човешки дебати
и спечели дебат на живо.

922
01:18:51,570 --> 01:18:54,160
- Компютърно генериран
видеоклипове, известни като дълбоки фалшификати

923
01:18:54,160 --> 01:18:57,980
се използват за поставяне на жени
лица на порнографски видеоклипове.

924
01:19:02,510 --> 01:19:06,450
- Изкуствен интелект
се развива с много луди темпове.

925
01:19:07,970 --> 01:19:10,180
Знаеш ли, все едно напредваш толкова бързо.

926
01:19:10,180 --> 01:19:12,940
В някои отношения ние сме само
в началото точно сега.

927
01:19:14,490 --> 01:19:17,620
Имаш толкова много потенциал
приложения, това е златна мина.

928
01:19:19,590 --> 01:19:23,450
От 2012 г., когато дълбокото обучение
се превърна в голяма промяна на играта

929
01:19:23,450 --> 01:19:25,370
в общността на компютърното зрение,

930
01:19:25,370 --> 01:19:28,730
ние бяхме едни от първите, които
всъщност възприемат задълбочено обучение

931
01:19:28,730 --> 01:19:31,080
и го прилагайте на полето
на компютърна графика.

932
01:19:34,640 --> 01:19:39,800
Много от нашите изследвания са финансирани от
правителство, военни разузнавателни агенции.

933
01:19:43,950 --> 01:19:47,840
Начинът, по който създаваме тези фотореални съпоставки,

934
01:19:47,840 --> 01:19:50,300
обикновено начинът, по който работи е
че имаме нужда от два предмета,

935
01:19:50,300 --> 01:19:53,740
източник и цел, и
Мога да направя смяна на лицето.

936
01:19:58,880 --> 01:20:03,700
Едно от приложенията е напр.
Искам да манипулирам нечие лице

937
01:20:03,700 --> 01:20:05,450
казвайки неща, които не е правил.

938
01:20:08,920 --> 01:20:12,140
Може да се използва за творчество
неща, за забавно съдържание,

939
01:20:12,140 --> 01:20:16,110
но очевидно и това може
да се използва просто за

940
01:20:16,110 --> 01:20:18,660
манипулират видеоклипове и генерират фалшиви новини.

941
01:20:21,050 --> 01:20:23,340
Това може да бъде много опасно.

942
01:20:24,790 --> 01:20:29,300
Ако попадне в неподходящи ръце,
може да излезе извън контрол много бързо.

943
01:20:33,370 --> 01:20:35,750
- Навлизаме в епоха
в които нашите врагове могат

944
01:20:35,750 --> 01:20:39,590
накарайте го да изглежда така, сякаш някой е
казвайки нещо по всяко време,

945
01:20:39,590 --> 01:20:41,830
дори и да биха
никога не казвай тези неща.

946
01:20:42,450 --> 01:20:46,970
Продължавайки напред, трябва да сме повече
бдителни с това, на което се доверяваме от Интернет.

947
01:20:46,970 --> 01:20:50,710
Може да звучи елементарно, но как
продължаваме напред

948
01:20:50,710 --> 01:20:55,180
в ерата на информацията
ще бъде разликата

949
01:20:55,180 --> 01:20:58,160
между това дали оцеляваме
или дали ставаме

950
01:20:58,160 --> 01:21:00,270
някаква прецакана дистопия.

951
01:22:31,070 --> 01:22:37,337
- Една критика, която често се повдига
против моята работа казва, че

952
01:22:37,337 --> 01:22:43,610
„Хей, знаеш, че имаше глупави идеи
в миналото като френология или физиономия.-

953
01:22:45,110 --> 01:22:49,210
– „Имаше хора, които претендираха
че можете да прочетете знак

954
01:22:49,210 --> 01:22:52,010
"на човек само въз основа на лицето му."

955
01:22:53,820 --> 01:22:56,050
Хората биха казали: „Това е боклук.

956
01:22:56,050 --> 01:23:01,050
„Знаем, че беше тънко
завоалиран расизъм и суеверие“.

957
01:23:05,300 --> 01:23:09,650
Но фактът, че някой
направи иск в миналото

958
01:23:09,650 --> 01:23:14,650
и се опита да подкрепи това
иск с невалидни мотиви,

959
01:23:14,960 --> 01:23:18,970
не става автоматично
обезсилва иска.

960
01:23:23,790 --> 01:23:25,710
Разбира се, хората трябва да имат права

961
01:23:25,710 --> 01:23:31,020
на поверителността им, когато става дума за
сексуална ориентация или политически възгледи,

962
01:23:32,310 --> 01:23:35,600
но също така се страхувам, че в
настоящата технологична среда,

963
01:23:35,600 --> 01:23:38,220
това по същество е невъзможно.

964
01:23:42,640 --> 01:23:44,910
Хората трябва да осъзнаят
няма връщане назад.

965
01:23:44,910 --> 01:23:48,330
Няма бягане
от алгоритмите.

966
01:23:51,120 --> 01:23:55,670
Колкото по-скоро приемем
неизбежна и неудобна истина

967
01:23:56,540 --> 01:23:59,430
тази поверителност е изчезнала,

968
01:24:01,770 --> 01:24:05,380
толкова по-рано всъщност можем
започнете да мислите за

969
01:24:05,380 --> 01:24:07,440
как се прави
сигурни, че нашите общества

970
01:24:07,440 --> 01:24:11,660
са готови за ерата след поверителността.

971
01:24:35,080 --> 01:24:37,610
- Докато говорим за лицево разпознаване,

972
01:24:37,610 --> 01:24:43,700
в дълбоките си мисли понякога стигам до
много тъмната епоха от нашата история.

973
01:24:45,490 --> 01:24:49,020
Когато хората трябваше да живеят в системата,

974
01:24:49,020 --> 01:24:52,660
където част от обществото е приета

975
01:24:53,680 --> 01:24:56,900
и част от обществото
беше обвинен в смърт.

976
01:25:01,670 --> 01:25:06,180
Какво би направил Менгеле, за да има
такъв инструмент в ръцете му?

977
01:25:10,740 --> 01:25:14,390
Би било много бързо и
ефективни за селекция

978
01:25:18,390 --> 01:25:22,100
и това е апокалиптичната визия.

979
01:26:15,880 --> 01:26:19,870
- Значи в близко бъдеще,
цялата история за теб

980
01:26:19,870 --> 01:26:25,340
ще съществува в широк набор от
свързани бази данни с лица,

981
01:26:25,750 --> 01:26:28,390
геноми, поведение и емоции.

982
01:26:30,950 --> 01:26:35,320
И така, ще имате цифров
аватар на себе си онлайн,

983
01:26:35,320 --> 01:26:39,510
който записва колко добре сте
правите като граждани,

984
01:26:39,510 --> 01:26:41,910
каква връзка имате,

985
01:26:41,910 --> 01:26:45,890
каква политическа ориентация
и сексуална ориентация.

986
01:26:50,020 --> 01:26:54,120
Въз основа на всички тези данни,
тези алгоритми ще могат

987
01:26:54,120 --> 01:26:58,390
манипулират поведението ви
с изключителна прецизност,

988
01:26:58,390 --> 01:27:03,890
промяна на начина, по който мислим и
вероятно в бъдеще, как се чувстваме.

989
01:27:25,660 --> 01:27:30,510
- Вярванията и желанията на
първите AGI ще бъдат изключително важни.

990
01:27:32,730 --> 01:27:35,180
Така че е важно да
програмирайте ги правилно.

991
01:27:36,200 --> 01:27:37,850
Мисля, че ако това не бъде направено,

992
01:27:38,810 --> 01:27:44,190
след това природата на еволюцията
на естествения подбор ще благоприятства

993
01:27:44,190 --> 01:27:48,340
тези системи, приоритизирайте техните
собственото оцеляване преди всичко.

994
01:27:51,860 --> 01:27:56,660
Не че ще става активно
мразят хората и искат да им навредят,

995
01:27:58,780 --> 01:28:01,100
но е просто
ще бъде твърде мощен

996
01:28:01,400 --> 01:28:05,470
и мисля, че би била добра аналогия
начина, по който хората се отнасят към животните.

997
01:28:06,970 --> 01:28:08,200
Не че мразим животните.

998
01:28:08,260 --> 01:28:11,930
Мисля, че хората обичат животните
и имам много привързаност към тях,

999
01:28:12,340 --> 01:28:17,610
но когато му дойде времето
изграждане на магистрала между два града,

1000
01:28:17,610 --> 01:28:20,130
ние не питаме
животните за разрешение.

1001
01:28:20,130 --> 01:28:23,340
Ние просто го правим, защото
това е важно за нас.

1002
01:28:24,250 --> 01:28:29,010
И мисля, че по подразбиране това е нещо
връзка, която ще бъде между нас

1003
01:28:29,010 --> 01:28:34,700
и AGI, които са наистина автономни
и действат от свое име.

1004
01:28:47,190 --> 01:28:51,400
Ако имате надпревара във въоръжаването
динамика между множество крале

1005
01:28:51,400 --> 01:28:54,140
опитвайки се първо да изгради AGI,

1006
01:28:54,140 --> 01:28:58,000
ще имат по-малко време да се уверят
че AGI, който те изграждат

1007
01:28:58,970 --> 01:29:00,520
ще се грижи дълбоко за хората.

1008
01:29:03,530 --> 01:29:06,540
Защото така, както си го представям
е, че има лавина,

1009
01:29:06,540 --> 01:29:09,220
има лавина
на развитието на AGI.

1010
01:29:09,220 --> 01:29:12,300
Представете си, че това е огромна неудържима сила.

1011
01:29:15,780 --> 01:29:18,740
И мисля, че е доста вероятно
цялата повърхност на

1012
01:29:18,740 --> 01:29:22,070
земята ще бъде покрита с
слънчеви панели и центрове за данни.

1013
01:29:26,230 --> 01:29:28,700
Като се имат предвид тези опасения,

1014
01:29:28,700 --> 01:29:32,830
ще бъде важно, че
AGI е изграден по някакъв начин

1015
01:29:32,830 --> 01:29:35,570
като сътрудничество
с множество държави.

1016
01:29:38,060 --> 01:29:41,180
Бъдещето ще бъде
добре за AIs, независимо.

1017
01:29:42,130 --> 01:29:45,020
Би било хубаво, ако беше така
бъде добро и за хората.

1018
01:30:06,750 --> 01:30:10,580
- Има ли голяма отговорност
тежи на раменете ми?

1019
01:30:10,580 --> 01:30:11,800
Не съвсем.

1020
01:30:13,420 --> 01:30:16,740
Имаше ли много
отговорност на раменете

1021
01:30:16,740 --> 01:30:19,100
на родителите на Айнщайн?

1022
01:30:20,190 --> 01:30:21,780
Родителите по някакъв начин го накараха,

1023
01:30:21,780 --> 01:30:25,450
но нямаха начин
предвиждайки какво ще направи,

1024
01:30:25,450 --> 01:30:27,300
и как би променил света.

1025
01:30:28,580 --> 01:30:32,540
И така, не можете наистина да издържите
те са отговорни за това.

1026
01:30:57,640 --> 01:31:00,240
Така че аз не съм човекоцентричен човек.

1027
01:31:01,840 --> 01:31:05,500
Мисля, че малко стъпвам
камък в еволюцията

1028
01:31:05,500 --> 01:31:08,060
на Вселената към по-висока сложност.

1029
01:31:10,820 --> 01:31:14,860
Но и това ми е ясно
Аз не съм венецът на творението

1030
01:31:14,860 --> 01:31:19,320
и че човечеството като цяло
не е венецът на творението,

1031
01:31:21,140 --> 01:31:26,290
но ние подготвяме сцената за нещо
това е по-голямо от нас, което ни превъзхожда.

1032
01:31:28,980 --> 01:31:32,780
И тогава ще излезе там по някакъв начин
където хората не могат да следват

1033
01:31:32,780 --> 01:31:37,940
и трансформира цялата Вселена,
или поне достижимата Вселена.

1034
01:31:41,520 --> 01:31:46,520
И така, намирам красота и страхопочитание в това да виждам себе си

1035
01:31:46,640 --> 01:31:50,260
като част от тази много по-велика тема.

1036
01:32:14,070 --> 01:32:16,030
- AI е неизбежен.

1037
01:32:17,560 --> 01:32:23,370
Трябва да сме сигурни, че имаме
необходимото човешко регулиране

1038
01:32:23,370 --> 01:32:27,940
за предотвратяване на въоръжаването
на изкуствения интелект.

1039
01:32:28,690 --> 01:32:32,000
Нямаме нужда от повече въоръжение

1040
01:32:32,000 --> 01:32:33,960
на такъв мощен инструмент.

1041
01:32:37,100 --> 01:32:41,960
- Едно от най-критичните неща според мен,
е необходимостта от международно управление.

1042
01:32:43,920 --> 01:32:46,310
Имаме дисбаланс на
власт тук, защото сега

1043
01:32:46,310 --> 01:32:49,140
имаме корпорации с
повече сила, сила и способност,

1044
01:32:49,140 --> 01:32:51,100
отколкото цели държави.

1045
01:32:51,100 --> 01:32:54,050
Как да се уверим, че хората
чуват ли се гласове?

1046
01:32:58,030 --> 01:32:59,930
- Не може да е зона без закон.

1047
01:32:59,930 --> 01:33:02,100
Това не може да бъде зона без права.

1048
01:33:02,100 --> 01:33:05,870
Не можем да прегърнем всичко това
прекрасни нови технологии

1049
01:33:05,870 --> 01:33:10,380
за 21 век без
опитвайки се да донесем с нас

1050
01:33:10,380 --> 01:33:15,380
пакета от човешки права
че се борихме толкова силно

1051
01:33:15,640 --> 01:33:19,190
за постигане, а това остава толкова крехко.

1052
01:33:28,680 --> 01:33:32,180
- ИИ не е добър и не е и зъл.

1053
01:33:32,180 --> 01:33:36,890
Просто ще засили желанията
и целите на този, който го контролира.

1054
01:33:36,890 --> 01:33:41,240
И AI днес е под контрола на
много, много малка група хора.

1055
01:33:44,430 --> 01:33:49,260
Най-важният въпрос, който ние хората
трябва да се запитаме в този момент от историята

1056
01:33:49,260 --> 01:33:51,380
не изисква технически познания.

1057
01:33:51,590 --> 01:33:57,540
Въпросът е от какъв вид
на бъдещото общество, което искаме да създадем

1058
01:33:57,540 --> 01:33:59,740
с всичко това
технология, която създаваме?

1059
01:34:01,410 --> 01:34:05,110
Каква роля искаме
хората да съществуват на този свят?




